대규모 언어 모델(LLM)은 사실과 부합하지 않는 출력을 생성하는 경향이 있으므로, LLM만을 활용할 때 발생하는 이러한 단점을 완화하기 위한 핵심 수단으로 검색 증강 생성(retrieval-augmented generation, RAG)이 상당한 주목을 받아 왔다. 그러나 단일 및 다중 홉 질문응답(QA)을 위한 기존 RAG 방법들은 여전히 부정확한 검색과 환각에 취약하다. 이러한 한계를 해결하기 위해, 우리는 질문응답 과제를 위한 새로운 RAG 프레임워크인 CoopRAG를 제안한다. CoopRAG는 검색기(retriever)와 LLM이 유용한 지식을 상호 교환함으로써 서로 협력하도록 하며, 또한 검색기 모델의 초기 및 후기 계층이 서로 협력하여 주어진 질의와 관련된 검색 문서를 정확하게 순위화하도록 설계되었다. 이 프레임워크에서 우리는 (i) 불확실한 위치가 마스킹된 추론 체인과 하위 질문들로 질문을 분해하고, (ii) 하위 질문 및 추론 체인이 결합된 형태로 질문에 관련된 문서를 검색하며, (iii) 검색기(retriever)의 서로 다른 계층들을 대조하여 문서를 재순위화하고, (iv) LLM을 통해 마스킹된 위치를 채워 추론 체인을 재구성한다. 우리의 실험 결과, CoopRAG는 검색 성능과 QA 성능 모두에서 3개의 다중 홉 QA 데이터셋뿐 아니라 단순 QA 데이터셋에서도 기존의 최신 QA 방법들보다 일관되게 더 우수함을 보여준다. 우리의 코드는 공개되어 있다.

*본 초록은 AI를 통해 원문을 번역한 내용입니다. 정확한 내용은 하기 원문에서 확인해주세요.