릴레이션 그래프를 통한 귀납적 지식 그래프 임베딩 방법 및 그 시스템
METHOD FOR INDUCTIVE KNOWLEDGE GRAPH EMBEDDING USING RELATION GPAPHS AND SYSTEM THEREOF
특허 요약
릴레이션 그래프를 통한 귀납적 지식 그래프 임베딩 방법 및 그 시스템이 개시된다. 일 실시예에 따른 지식 그래프 임베딩 시스템에 의해 수행되는 귀납적 지식 그래프 임베딩 방법은, 지식 그래프로부터 생성된 릴레이션 그래프와, 상기 지식 그래프를 이용하여 그래프 신경망 기반 지식 그래프 임베딩 모델을 학습하는 단계; 및 상기 학습된 그래프 신경망 기반 지식 그래프 임베딩 모델을 통해 새로운 릴레이션 및 엔티티를 포함하는 지식 그래프에 대한 링크 예측을 수행하는 단계를 포함하고, 상기 학습하는 단계는, 동적 재분할 기법을 통해 일정 주기마다 사실 셋과 학습 셋을 재분할하여 그래프 신경망 기반 지식 그래프 임베딩 모델을 학습하는 단계를 포함하고, 상기 그래프 신경망 기반 지식 그래프 임베딩 모델은, 릴레이션 그래프의 구조를 사용하여 각 릴레이션에 대해 타 릴레이션과의 관계 정보를 반영한 표현 벡터를 업데이트하기 위한 릴레이션 그래프 상의 그래프 신경망 및 지식 그래프의 구조를 사용하여 지식 그래프 내 릴레이션 및 엔티티 간의 연결성을 반영한 표현 벡터를 업데이트하기 위한 지식 그래프 상의 그래프 신경망으로 구성될 수 있다.
청구항
번호청구항
1

지식 그래프 임베딩 시스템에 의해 수행되는 귀납적 지식 그래프 임베딩 방법에 있어서, 지식 그래프로부터 생성된 릴레이션 그래프와, 상기 지식 그래프를 이용하여 그래프 신경망 기반 지식 그래프 임베딩 모델을 학습하는 단계; 및 상기 학습된 그래프 신경망 기반 지식 그래프 임베딩 모델을 통해 새로운 릴레이션 및 엔티티를 포함하는 지식 그래프에 대한 링크 예측을 수행하는 단계 를 포함하고,상기 학습하는 단계는, 동적 재분할 기법을 통해 일정 주기마다 사실 셋과 학습 셋을 재분할하여 그래프 신경망 기반 지식 그래프 임베딩 모델을 학습하는 단계를 포함하고, 상기 그래프 신경망 기반 지식 그래프 임베딩 모델은, 릴레이션 그래프의 구조를 사용하여 각 릴레이션에 대해 타 릴레이션과의 관계 정보를 반영한 표현 벡터를 업데이트하기 위한 릴레이션 그래프 상의 그래프 신경망 및 지식 그래프의 구조를 사용하여 지식 그래프 내 릴레이션 및 엔티티 간의 연결성을 반영한 표현 벡터를 업데이트하기 위한 지식 그래프 상의 그래프 신경망으로 구성되는것을 특징으로 하는 귀납적 지식 그래프 임베딩 방법.

2

제1항에 있어서, 상기 학습하는 단계는, 학습을 위한 지식 그래프로부터 지식 그래프 내 릴레이션 간의 관계를 나타내는 릴레이션 그래프를 생성하는 단계를 포함하는 귀납적 지식 그래프 임베딩 방법.

3

제2항에 있어서, 상기 학습하는 단계는, 상기 지식 그래프에서 릴레이션에 대한 역방향의 릴레이션을 생성하고, 상기 지식 그래프에서 삼중항에 대한 역방향의 삼중항을 생성하고 상기 생성된 역방향의 릴레이션과 상기 생성된 역방향의 삼중항을 상기 지식 그래프에 추가하는 단계를 포함하는 귀납적 지식 그래프 임베딩 방법.

4

제1항에 있어서, 상기 학습하는 단계는, 상기 그래프 신경망 기반 지식 그래프 임베딩 모델에 구성된 릴레이션 그래프 상의 그래프 신경망을 통해 상기 생성된 릴레이션 그래프로부터 제1 표현 벡터를 업데이트하고, 상기 그래프 신경망 기반 지식 그래프 임베딩 모델에 구성된 지식 그래프 상의 그래프 신경망을 통해 상기 지식 그래프로부터 제2 표현 벡터를 업데이트하고, 상기 업데이트된 제1 표현 벡터 및 제2 표현 벡터를 최종 임베딩 벡터로 변환하는 단계 를 포함하는 귀납적 지식 그래프 임베딩 방법.

5

제4항에 있어서, 상기 학습하는 단계는, 사실 셋을 통해 제1 표현 벡터 및 제2 표현 벡터를 계산하고, 상기 계산된 제1 표현 벡터 및 제2 표현 벡터를 사용하여 학습 셋에 대한 손실 함수를 계산하고, 상기 계산된 손실 함수를 최적화하여 가중치를 학습하는 단계 를 포함하는 귀납적 지식 그래프 임베딩 방법.

6

제1항에 있어서, 상기 동적 재분할 기법은, 상기 지식 그래프의 일부를 추출하여 사실 셋으로 사용하고, 상기 지식 그래프에서 추출되지 않은 삼중항을 학습 셋으로 사용하는 것을 특징으로 하는 귀납적 지식 그래프 임베딩 방법.

7

제1항에 있어서, 상기 학습하는 단계는, 일정 주기마다 릴레이션의 특성 벡터 및 엔티티의 특성 벡터를 초기화하여 릴레이션에 대한 새로운 특성 벡터 및 엔티티에 대한 새로운 특성 벡터를 생성하는 단계 를 포함하는 귀납적 지식 그래프 임베딩 방법.

8

제1항에 있어서, 상기 새로운 릴레이션 및 엔티티를 포함하는 지식 그래프는, 추론을 위한 지식 그래프이고, 상기 링크 예측을 수행하는 단계는, 상기 추론을 위한 지식 그래프로부터 지식 그래프 내 릴레이션 간의 관계를 나타내는 릴레이션 그래프를 생성하는 단계를 포함하는 귀납적 지식 그래프 임베딩 방법.

9

제8항에 있어서, 상기 링크 예측을 수행하는 단계는, 상기 지식 그래프에서 릴레이션에 대한 역방향의 릴레이션을 생성하고, 상기 지식 그래프에서 삼중항에 대한 역방향의 삼중항을 생성하고, 상기 생성된 역방향의 릴레이션과 생성된 역방향의 삼중항을 상기 지식 그래프에 추가하는 단계를 포함하는 귀납적 지식 그래프 임베딩 방법.

10

제1항에 있어서, 상기 링크 예측을 수행하는 단계는, 상기 생성된 릴레이션 그래프로부터 상기 학습된 그래프 신경망 기반 지식 그래프 임베딩 모델에 구성된 릴레이션 그래프 상의 그래프 신경망을 통해 제1 표현 벡터를 업데이트하고, 상기 지식 그래프로부터 상기 학습된 그래프 신경망 기반 지식 그래프 임베딩 모델에 구성된 지식 그래프 상의 그래프 신경망을 통해 제2 표현 벡터를 추가로 업데이트하고, 상기 업데이트된 제1 표현 벡터 및 제2 표현 벡터를 최종 임베딩 벡터로 변환하는 단계를 포함하는 귀납적 지식 그래프 임베딩 방법.

11

제1항에 있어서, 상기 링크 예측을 수행하는 단계는, 헤드 엔티티 혹은 테일 엔티티가 비어있는 불완전한 삼중항에 대해, 비어 있는 엔티티를 다른 엔티티로 치환하여 삼중항의 점수를 계산하고, 상기 계산된 삼중항의 점수가 가장 높은 엔티티를 정답으로 예측하는 단계 를 포함하는 귀납적 지식 그래프 임베딩 방법.

12

지식 그래프 임베딩 시스템에 의해 수행되는 귀납적 지식 그래프 임베딩 방법을 실행시키기 위해 컴퓨터 판독 가능한 저장매체에 저장된 컴퓨터 프로그램에 있어서,상기 귀납적 지식 그래프 임베딩 방법은,지식 그래프로부터 생성된 릴레이션 그래프와, 상기 지식 그래프를 이용하여 그래프 신경망 기반 지식 그래프 임베딩 모델을 학습하는 단계; 및 상기 학습된 그래프 신경망 기반 지식 그래프 임베딩 모델을 통해 새로운 릴레이션 및 엔티티를 포함하는 지식 그래프에 대한 링크 예측을 수행하는 단계 를 포함하고,상기 학습하는 단계는, 동적 재분할 기법을 통해 일정 주기마다 사실 셋과 학습 셋을 재분할하여 그래프 신경망 기반 지식 그래프 임베딩 모델을 학습하는 단계를 포함하고, 상기 그래프 신경망 기반 지식 그래프 임베딩 모델은, 릴레이션 그래프의 구조를 사용하여 각 릴레이션에 대해 타 릴레이션과의 관계 정보를 반영한 표현 벡터를 업데이트하기 위한 릴레이션 그래프 상의 그래프 신경망 및 지식 그래프의 구조를 사용하여 지식 그래프 내 릴레이션 및 엔티티 간의 연결성을 반영한 표현 벡터를 업데이트하기 위한 지식 그래프 상의 그래프 신경망으로 구성되는것을 특징으로 하는 컴퓨터 판독 가능한 저장매체에 저장된 컴퓨터 프로그램.

13

지식 그래프 임베딩 시스템에 있어서, 지식 그래프로부터 생성된 릴레이션 그래프와, 상기 지식 그래프를 이용하여 그래프 신경망 기반 지식 그래프 임베딩 모델을 학습하는 학습부; 및 상기 학습된 그래프 신경망 기반 지식 그래프 임베딩 모델을 통해 새로운 릴레이션 및 엔티티를 포함하는 지식 그래프에 대한 링크 예측을 수행하는 추론부 를 포함하고,상기 학습부는, 동적 재분할 기법을 통해 일정 주기마다 사실 셋과 학습 셋을 재분할하여 그래프 신경망 기반 지식 그래프 임베딩 모델을 학습하는 것을 포함하고,상기 그래프 신경망 기반 지식 그래프 임베딩 모델은, 릴레이션 그래프의 구조를 사용하여 각 릴레이션에 대해 타 릴레이션과의 관계 정보를 반영한 표현 벡터를 업데이트하기 위한 릴레이션 그래프 상의 그래프 신경망 및 지식 그래프의 구조를 사용하여 지식 그래프 내 릴레이션 및 엔티티 간의 연결성을 반영한 표현 벡터를 업데이트하기 위한 지식 그래프 상의 그래프 신경망으로 구성되는것을 특징으로 하는 지식 그래프 임베딩 시스템.