지식 기반 대화 모델은 외부 지식에 근거하여 주어진 대화 맥락에 대해 유익한 응답을 생성하는 것을 목표로 한다. 유익하고 맥락에 부합하는 응답을 생성하기 위해서는 대화 맥락과 외부 지식을 균형 있게 결합(conjugate)하는 것이 중요하다. 그러나 기존 연구들은 외부 지식원에서 적절한 지식 문장을 찾는 문제를, 정확한 대화 행위(dialogue acts)를 갖는 적절한 문장을 생성하는 문제보다 상대적으로 덜 주목해 왔다. 본 논문에서는 두 가지 지식 선택 전략을 제안한다: 1) Reduce-Match 및 2) Match-Reduce. 그리고 각 전략에 기반한 여러 신경 지식 기반 대화 모델을 탐색한다. Reduce-Match 전략에 기반한 모델은 먼저 전체 대화 맥락을 중요 특징이 보존된 단일 벡터로 압축(distill)한 다음, 이 맥락 벡터를 지식 문장들의 표현과 비교하여 관련된 지식 문장을 예측한다. Match-Reduce 전략에 기반한 모델은 먼저 맥락의 각 발화를 지식 문장과 매칭(match)하여 세밀한 상호작용을 포착하고, 정보 손실을 최소화하면서 이를 집계하여 지식 문장을 예측한다. 실험 결과는 각 지식 선택 전략을 사용하는 대화 모델이 지식 선택 정확도뿐 아니라 응답 생성 성능에서도 경쟁 기준선(competitive baselines)보다 우수함을 보여준다. 또한 Match-Reduce를 기반으로 한 최우수 모델은 Wizard of Wikipedia 데이터셋을 대상으로 한 비교 실험에서 기준선들을 능가한다. 아울러 Reduce-Match를 기반으로 한 최우수 모델은 CMU Document Grounded Conversations 데이터셋에서 기준선들을 능가한다.
*본 초록은 AI를 통해 원문을 번역한 내용입니다. 정확한 내용은 하기 원문에서 확인해주세요.