신뢰도 인식 검색 증강 생성과 지식-기반 요약 튜닝

Reliability-Aware Retrieval-Augmented Generation and Knowledge-Grounded Summarization Tuning

연구 내용

다중 출처의 신뢰도를 추정해 검색 우선순위를 제어하고, 요약 생성 모델을 키-엘리먼트 정보에 맞춰 튜닝하여 신뢰도와 사실성을 함께 높이는 연구

기존 검색 증강 생성은 질의-문서의 관련성에 주로 의존해, 출처 간 신뢰도 차이로 인한 오류를 충분히 억제하기 어렵습니다. 본 연구는 복수 소스 간 교차 검증을 통해 문서 출처의 신뢰도를 추정하고, 신뢰도와 관련성을 동시에 만족하는 문서를 선택적으로 검색한 뒤 weighted majority voting으로 정보를 집계합니다. 또한 키-엘리먼트를 활용한 sLLM 튜닝을 통해 요약 품질을 목표 요소 중심으로 정렬하고, 개념 기반 생성과 평가를 적용해 생성 근거의 구조를 강화하는 차별성을 보유합니다.

관련 프로젝트

3건

연구 흐름

초기에는 효율적인 sLLM 튜닝으로 요약에 필요한 핵심 요소를 식별하고, 자동 요약 성능을 요소 정렬 관점에서 개선하는 연구를 수행하였습니다. 이후에는 대규모 언어 모델이 외부 데이터에 의존할 때 발생하는 오류를 줄이기 위해, 출처 간 이질적 신뢰도를 추정하고 신뢰도 기반 검색을 결합하는 Reliability-Aware RAG으로 확장하였습니다. 최근에는 개념 가이드 생성과 평가를 적용해, 전문 지식과 언어 모델 출력을 연결하는 생성 파이프라인을 구체화하는 연구를 수행하고 있습니다.

활용 가능성

활용 가능성은 알앤디써클 특화 AI 에이전트가 생성한 내용으로, 실제 연구 가능 여부는 연구실과의 논의가 필요합니다.

사실성 보강 검색-생성 파이프라인
다중 출처 신뢰도 평가 모듈
근거 중심 요약 자동화
뉴스 및 정보 검증 에이전트
질의응답 답변의 출처 신뢰도 제어
도메인 특화 키-엘리먼트 튜닝
전문가 해설 생성 및 품질 평가
콘텐츠 검증형 챗봇
정보 검색 기반 리포팅 자동화
신뢰 AI 정책 지원용 생성 프레임