해석가능성 중심 relevance estimation 기반 검색-생성 질의응답

Interpretability-focused Relevance Estimation for Retrieval-Augmented Question Answering

연구 내용

검색-생성 질의응답에서 무관 문맥을 신뢰성 있게 판별하고 답변 가능성을 제어하는 relevance estimator를 학습·적용하는 연구

검색-증강 생성(Retrieval-Augmented Generation)에서 검색된 문맥이 무관할 때 성능이 저하되는 문제를 분석하고, relevance estimator로 문맥 간 관련성과 신뢰도를 함께 산출합니다. 약한 지도 학습으로 정답 문맥 라벨 없이 estimator를 학습하고, 생성 단계에서 신뢰도 기반 디코딩을 통해 답변 불가능 상태를 분리하거나 관련 문맥을 우선 활용하도록 합니다. 또한 후보 비교를 다중 이웃 비교로 확장하여 비용 대비 reranking 품질을 개선하는 방향을 포함합니다.

관련 프로젝트

0건

연구 흐름

초기 연구는 검색-증강 생성에서 관련 문맥이 답변에 미치는 영향을 줄 단위로 해석하고, relevance estimator로 관련성의 상대적 신뢰도를 제공하는 프레임을 구성하는 데 집중되었습니다. 이후 2024년에는 estimator 신호를 디코딩 전략에 직접 활용하여 부정확한 문맥으로 인한 성능 저하를 완화하는 방향으로 확장했습니다. 병행하여 다중 후보를 얕은 self-attention으로 비교하는 중간 reranker 구조를 설계하여 bi-encoder와 cross-encoder 사이의 오류 전파를 줄이면서도 효율을 유지하는 연구를 수행했습니다.

활용 가능성

활용 가능성은 알앤디써클 특화 AI 에이전트가 생성한 내용으로, 실제 연구 가능 여부는 연구실과의 논의가 필요합니다.

해석가능 오픈도메인 QA
무관 문맥 차단형 챗봇
관련성 신뢰도 기반 응답 정책
RAG 성능 저하 진단 도구
RAG 평가 및 모니터링 프레임
대규모 언어모델 비용 절감형 reranking
질의-출처 정합성 검증 보조
교육용 질의응답 콘텐츠 생성
도메인 특화 검색-생성 파이프라인
불응답 처리 규칙 엔진