연구 영역
기본 정보
논문·특허
구성원
Article|
인용수 2
·2024
Beyond Message-Passing: Generalization of Graph Neural Networks via Feature Perturbation for Semi-Supervised Node Classification
Yoonhyuk Choi, Jiho Choi, Taewook Ko, Chong-kwon Kim
IF 8.9 (2024) IEEE Transactions on Neural Networks and Learning Systems
초록

이웃으로부터 정보를 수집하는 그래프 신경망(GNN)은 반지도 학습(semi-supervised learning) 맥락에서 흔히 활용된다. 특히, 인접 노드로부터의 정보를 걸러내기 위해 효과적인 그래프 필터 및 집계(aggregation) 방법을 개발하는 데 상당한 연구가 이루어져 왔다. 그럼에도 불구하고 이러한 접근법은, 특히 특징이 희소 벡터(예: bag-of-words)로 표현되는 경우에, 학습 노드의 희소성으로 인해 어려움에 직면할 수 있다. 이러한 조건은, 학습 샘플이 학습 가능한 파라미터 전체의 스펙트럼을 충분히 대표하지 못하므로, 첫 번째 투영 행렬(하이퍼플레인) 내의 특정 차원에서의 과적합을 초래할 수 있다. 이 제한을 해결하기 위해 우리는 혁신적인 섭동(perturbation) 기법을 제안한다. 구체적으로, 초기 특징과 하이퍼플레인을 모두 수정함으로써 추가적인 학습 변동성을 도입하며, 이는 전체 차원을 갱신함으로써 예측 분산(prediction variance)을 감소시키는 데 기여한다. 우리가 아는 한, 본 접근법은 희소 노드 특징에 의해 촉발되는 GNN의 과적합 문제를 다루는 최초의 시도이다. 실제 데이터셋에 대한 종합적인 실험과 절제(ablation) 연구 결과, 제안한 방법이 노드 분류 성능을 유의미하게 향상시키며, GNN 알고리즘들에서 최대 46.5%의 개선을 보였다.

*본 초록은 AI를 통해 원문을 번역한 내용입니다. 정확한 내용은 하기 원문에서 확인해주세요.

키워드
Computer scienceGeneralizationMessage passingArtificial neural networkGraphArtificial intelligenceNode (physics)Theoretical computer scienceFeature (linguistics)Machine learning
타입
Article
IF / 인용수
8.9 / 2
게재 연도
2024