본문 바로가기

Graph Networks

(5)
Link Prediction Based on Graph Neural Networks(SEAL) : 논문 리뷰 Paper : Presentation content :Main interest그래프에서의 link prediction을 주 관심사로 한다. 이는 즉 네트워크가 주어졌을 때 두 노드 사이의 link가 존재 유무를 판별하는 작업이다. 이는 추천 시스템은 물론이고 지식 그래프 completion, 의학 데이터 재구축(e.g., metabolic network, PPI) 등에 사용될 수 있다.  Problem with previous models그래서 두 노드 사이의 연결을 어떻게 판별할 것인가? 가장 널리 사용된 방법은 휴리스틱을 정의하는 것이다. 휴리스틱이란 두 노드 사이의 link가 이루어질 score를 계산할 수 있는 일종의 함수이다. 즉 입력은 두 노드와 관련된 정보(주변의 구조적 특징, 두 노드로 이..
Inductive Representation Learning on Large Graphs(GraphSAGE) 리뷰 Paper : Presentation pptx 자료주요 관심사 우리의 현실에 노드로 대변될만한 개체들을 상상해 보자. 가장 단순한 예시는 '사람'일 것이다. 그렇다면 이제 그 사람을 나타내기 위한 속성들이 무엇이 있을지 상상해 보자. 당장 생각나는 것만 해도 나이, 직업, 인종, 출신지, 출신국가, 거주지, 가족 관계등 매우 많다.  즉 우리는 하나의 고차원 노드이다. 또한 우리는 다른 노드(사람)들과 연결하여 복잡한 그래프를 이루게 된다. 이 복잡한 그래프에서 연구자들이 수행하기를 원하는 task는 크게 다음 3 가지이다. 1. classification2. link prediction3. clustering   물론 위와 같은 task말고도 무궁무진하게 많은 문제 상황에 적용할 수 있지만 크게 3 가..
Graph Attention Networks 리뷰 Presentation pptx 자료문제:앞서 GNN, GCN, GraphSAGE 등 그래프 구조에 Neural Network를 적용하려는 시도가 다수 있었다. NN 사용이 그래프에서 더 힘든 이유는 개체(노드)들의 연관성이 일반 그리드와 같은 선형적인 구조에 비해 복잡하기 때문이다. 그래서 이와 같은 복잡성을 타개하기 위해 여러 노력이 있었지만 그 연구들은 모두 노드 간의 엣지를 모두 같은 가중치로 생각해 주었다. 즉 기존에는 "연결되어 있다", "연결이 안 되어 있다"만 관찰했다면 GAT에서는 "얼마나 강하게 연결되어 있는가?"도 계산의 대상에 포함한다는 점에서 기존의 연구들과 차별점이 있다.  필요성:여태까지 우리는 노드의 피쳐와 다른 노드와의 연결 유무만을 주관심사로 두었다. 하지만 본 논문에서 ..
[GCN] Graph Convolutional Networks 논문 리뷰 목적:어떤 그래프 구조가 있다고 생각해 보자. 우리는 모든 노드들의 라벨을 채워 넣고 싶어 한다. 하지만 라벨이 채워져 있는 노드가 몇 개 없다면? 가령 그 비율이 전체 노드 개수의 5% 뿐이라면? 어떻게 나머지 라벨이 없는 노드들의 라벨을 예측할 것인가에 대한 연구가 Graph Convolution Network이다. 즉 적은 수의 label known 노드를 가지고 unknown 노드들을 classification 할 수 있는 알고리즘이다. 적용 범위는 소셜 네트워크, 논문의 인용 그래프 등에서 사용 가능하다. 문제:라벨이 있는 노드들만 가지고 지도 학습을 수행하기에는 정보가 너무 부족하다. 예를 들어 전체 노드의 5%만 라벨이 있다면 각 노드의 피쳐를 학습시켜 라벨을 예측하는 모델은 과연 나머지 9..
node2vec : Scalable Feature Learning for Networks 리뷰 목적 :네트워크에 존재하는 노드들을 이용해 예측 작업에 용이하게 하는 것을 목적으로 논문은 전개된다. 네트워크는 상당히 복잡하기 때문에 이것을 저 차원으로 변환한 이후에 다양한 예측 작업을 수행할 수 있게끔 임베딩하는 것이 그 목적이라고 할 수 있다.  그러나 임베딩 된 노드들이 놓여 있는 embeding space의 노드들은 기존의 공간인 graph space에서의 노드들 간의 상대적 관계를 임베딩 과정에서 잃으면 안 된다. 이것을 잃게 되면 굳이 알고리즘을 사용해 가면서 해결할 문제가 아니지 않은가. 본논문에서는 이 관계를 이웃(neighborhood)에 입각해 설명하였다. 예를 들어 graph space에서 매우 긴밀히 연결되어 있는 노드들은 embeding space에서도 긴밀한 관계를 가져야 한..