연구 영역
기본 정보
논문·특허
과제
구성원
Preprint|
인용수 0
·2024
PAC-Bayesian Generalization Bounds for Knowledge Graph Representation Learning
Jaejun Lee, Minsung Hwang, Joyce Jiyoung Whang
arXiv (Cornell University)
초록

지난 10년 동안 여러 지식 그래프 표현 학습(KGRL) 방법이 제안되었으나, 이에 대한 이론적 분석은 매우 제한적으로 수행되어 왔다. 본 논문에서는 KGRL 방법에 대한 최초의 PAC-베이즈 일반화 경계를 제시한다. 광범위한 범주의 KGRL 모델을 분석하기 위해, 관계 인지 메시지 전달 인코더와 삼중항 분류 디코더로 구성된 일반화된 프레임워크인 ReED(Relation-aware Encoder-Decoder)를 제안한다. 우리의 ReED 프레임워크는 R-GCN 및 CompGCN과 같은 그래프 신경망 기반 모델뿐 아니라 RotatE 및 ANALOGY와 같은 얕은 구조의 모델까지 포함하여, 최소 15개의 서로 다른 기존 KGRL 모델을 표현할 수 있다. ReED 프레임워크에 대한 일반화 경계는 매개변수 공유 및 가중치 정규화 방식과 같이 KGRL에서 널리 사용되는 기법들에 대한 이론적 근거를 제공하며, 실용적인 KGRL 방법을 위한 바람직한 설계 선택을 제시한다. 또한 경험적으로, 본 일반화 경계에서의 핵심 요인들이 세 개의 실제 세계 지식 그래프에서 관찰되는 일반화 오류를 설명할 수 있음을 보인다.

*본 초록은 AI를 통해 원문을 번역한 내용입니다. 정확한 내용은 하기 원문에서 확인해주세요.

키워드
GeneralizationGraphBayesian probabilityComputer scienceRepresentation (politics)Artificial intelligenceMachine learningTheoretical computer scienceMathematicsPolitical science
타입
Preprint
IF / 인용수
- / 0
게재 연도
2024