신뢰성 있는 지식 기반 대화를 위한 발화 사후 정제 장치 및 방법

• 핵심 기능

지식 기반 대화 모델이 지식과 대화 이력에 따라 초기 발화를 생성하면, 충실도 필터링 모듈이 DAE 점수와 임계치에 따라 정제 필요 여부를 판단합니다. 정제가 필요한 발화는 소스 지식에서 추출한 개체명과 함께 발화 생성기에 입력되어, 지식 근거를 반영한 응답으로 재생성됩니다.

• 차별 강점

기존 지식 기반 대화 모델은 소스 문서를 참조하더라도 문서에 없거나 잘못된 개체명을 생성하는 엔티티 수준 환각이 발생할 수 있었습니다. 본 기술은 모든 생성 구조를 교체하지 않고 기존 KGC 모델 출력에 플러그 앤 플레이 방식으로 적용하면서, 충실도 점수 기반 선별과 개체명 결합 재생성을 함께 수행하는 점이 차별점입니다.

• 활용 범위

기술·연구 측면에서는 지식 기반 대화, 검색증강생성 기반 응답, 자연어 생성 사실성 평가, 도메인 특화 LLM 정제 분야에 활용 가능하며, 기업 문서·지식베이스 기반 응답 품질 검증으로 확장할 수 있습니다. 사업 측면에서는 고객상담 AI, 업무지원 챗봇, 교육·학습용 대화형 AI, 사내 문서 질의응답, 정보 제공 서비스의 신뢰성 강화 기능으로 확장할 수 있습니다.