GNN의 과적합과 불일치 학습을 줄이기 위한 특징·하이퍼플레인 섭동 연구

Feature/Hyperplane Perturbation for Generalization in Graph Neural Networks

연구 내용

희소 초기 특징과 학습 환경에서 GNN 과적합을 유발하는 요인을 완화하기 위해 특징과 하이퍼플레인을 섭동하는 일반화 연구

메시지 패싱 기반 GNN이 반지도 학습이나 레이블 희소 상황에서 과적합에 취약하다는 관찰을 바탕으로 연구를 수행합니다. 특히 초기 특징이 희소 벡터로 표현될 때 특정 차원의 투영이 충분히 탐색되지 않아 하이퍼플레인 내 일부 파라미터가 안정적으로 갱신되지 못하는 문제를 다룹니다. 이를 해결하기 위해 초기 특징과 투영 하이퍼플레인의 섭동을 동시에 적용해 학습 변동성을 확보하고, 예측 분산과 분류 불안정성을 감소시키는 절차를 설계합니다. 또한 메시지 패싱 신경망의 안정성을 위해 불확실성 및 스펙트럴 반경 관점의 차단 전략을 함께 고려합니다.

관련 프로젝트

0건

연구 흐름

초기에는 반지도 환경에서 레이블과 초기 특징의 희소성이 GNN의 과적합을 악화시키는 원인을 분석하고, 초기 투영 단계에서의 탐색 부족 문제를 실험적으로 확인했습니다. 이후 특징과 하이퍼플레인에 대한 섭동을 도입하여 그라디언트 학습의 변동성을 통해 특정 차원 과적합을 완화하는 방법으로 확장했습니다. 이후에는 2차 메시지 패싱이 아니라 일반화의 관점에서 입력 특징 표현이 희소할 때 발생하는 예측 분산을 줄이는 설계를 강화했습니다. 최근에는 스펙트럴 반경과 불확실성 인식을 기반으로 메시지 전달을 차단·완화하는 방향까지 포함해 안정성과 성능을 함께 높이는 연구를 수행합니다.

활용 가능성

활용 가능성은 알앤디써클 특화 AI 에이전트가 생성한 내용으로, 실제 연구 가능 여부는 연구실과의 논의가 필요합니다.

반지도 GNN 일반화 기법
희소 특징 그래프 분류
초기 투영 안정화 전략
학습 분산 감소 파이프라인
메시지 패싱 안정화 모듈
차단 기반 그래프 전파
그래프 기반 품질 추정
그래프 임베딩 성능 개선
오버피팅 방지 전처리
불확실성 완화 학습 설계