사전학습 언어 모델(PLM)의 미세조정은 최근 지식 그래프 완성(KGC)을 향상시킬 잠재력이 있는 것으로 나타났다. 그러나 대부분의 PLM 기반 방법은 텍스트 정보의 인코딩에만 초점을 맞추며, 지식 그래프의 장꼬리(long-tailed) 특성과 그에 따른 다양한 위상 구조—예를 들어 부분그래프, 최단 경로, 차수—를 충분히 고려하지 못한다. 우리는 이것이 KGC에 대한 PLM의 더 높은 정확도를 달성하는 데 있어 주요 장애물이라고 주장한다. 이를 위해 본 연구는 KGC를 위한 부분그래프 인지 학습 프레임워크(Subgraph-Aware Training framework for KGC, SATKGC)를 제안하며, 두 가지 아이디어를 포함한다. (i) 하드 네거티브 샘플링을 유도하고 학습 중 엔티티 등장 빈도의 불균형을 완화하기 위한 부분그래프 인지 미니 배칭, 그리고 (ii) 지식 그래프의 구조적 성질 관점에서 더 어려운 배치 내 네거티브 트리플과 더 어려운 포지티브 트리플에 주목하도록 하는 새로운 대조 학습이다. 우리가 아는 한, 본 연구는 지식 그래프의 구조적 귀납적 편향을 PLM 미세조정에 포괄적으로 반영한 최초의 연구이다. 세 가지 KGC 벤치마크에 대한 광범위한 실험은 SATKGC의 우수성을 입증한다. 우리의 코드는 제공된다.https://github.com/meaningful96/SATKGC
*본 초록은 AI를 통해 원문을 번역한 내용입니다. 정확한 내용은 하기 원문에서 확인해주세요.