근거 있는 답변과 대화를 제공하는 도메인 특화 LLM 기술

임희석고려대학교

기술 개요

질문에 맞는 정보를 찾고, 생성 답변을 검토·보완해 근거성과 신뢰성을 높이는 대화형 AI 기술입니다.

질문에 맞는 정보를 찾고, 생성 답변을 검토·보완해 **근거성과 신뢰성**을 높이는 대화형 AI 기술입니다.

산업 별 활용 방안

1

고객상담·업무지원 AI 서비스 기업

고객상담과 업무지원 서비스를 운영하는 기업은 문의 표현이 다양하고, 답변이 내부 정책·상품 정보와 달라질 경우 서비스 신뢰도와 운영 부담이 커집니다. 본 기술을 질의응답 데이터베이스 검색과 지식 문서 기반 발화 정제에 결합해 의미가 가까운 기존 답변을 찾고 문서 근거를 반영한 응답을 제공할 수 있습니다. 기존 상담 시스템을 전면 교체하기보다 질의 검색, 답변 검토, 재생성 모듈을 단계적으로 연계해 도입할 수 있습니다.

2

에듀테크 콘텐츠·학습 서비스 기업

학습 콘텐츠를 운영하는 기업은 지문별 질문과 답변을 충분히 확보하면서도, 학습 수준에 맞고 지문과 연결되는지 지속적으로 검수해야 합니다. 지문으로 질의응답 쌍을 생성한 뒤 참조 답안 없이 품질을 평가하고, 숫자·날짜·범위를 묻는 독해형 질문에는 수치 관계를 반영한 질의응답 기능을 적용할 수 있습니다. 콘텐츠 제작 과정의 데이터 생성·검수 단계부터 적용해 기존 학습 플랫폼과 연계할 수 있습니다.

3

도메인 특화 LLM을 구축하는 기업·기관

자체 문서와 전문 지식을 활용하는 LLM 서비스를 구축하는 기업·기관은 생성 결과의 사실성, 전문 용어 대응, 학습 데이터 품질을 함께 관리해야 합니다. 문서·이미지에서 얻은 관계 정보를 생성 과정에 반영하고, 생성 후에는 지식과의 일치 여부를 점검해 도메인 지식에 근거한 답변 생성·정제 체계를 구성할 수 있습니다. 보유 문서와 질의응답 데이터를 대상으로 데이터 구축, 파인튜닝, 검증 모듈 적용 순으로 기존 LLM 환경에 결합할 수 있습니다.

기술 설명

어떤 기술인가요?

대화형 AI와 질의응답 시스템은 사용자의 질문을 이해해 저장된 정보에서 답을 찾거나 문장을 생성하는 기술입니다. 본 기술 포트폴리오는 도메인 특화 LLM의 답변을 검색·생성·정제·평가하는 자연어처리 기술로, 숫자가 포함된 문서에서도 계산·비교·정렬 결과를 답하도록 하고(특허 1), 교육용 질의응답 데이터의 품질을 정답 문장 없이 평가하며(특허 2), 지식 문서와 맞지 않는 생성 발화를 선별해 핵심 개체명을 반영한 답변으로 재생성하고(특허 3), 과거 질의응답과 새 질문의 어휘·의미 유사도를 함께 비교해 적합한 응답을 찾으며(특허 4), 이미지와 문서에서 얻은 장면·관계 지식을 언어 생성에 반영하는(특허 5) 기법으로 근거 기반 응답 서비스를 구축합니다.

어떤 문제를 해결하나요?

1. 문서 근거와 다른 답변 생성

기업 문서나 지식베이스를 참조하는 챗봇도 문서에 없는 정보나 잘못된 사람·장소·기관명을 포함한 답변을 생성할 수 있습니다. 생성 발화가 소스 지식과 얼마나 일치하는지 판단한 뒤, 지식에서 추출한 개체명과 기존 발화를 함께 활용해 근거에 맞는 문장으로 재생성합니다.

2. 표현이 달라 찾지 못하는 기존 답변

고객과 구성원은 같은 의미라도 서로 다른 문장과 전문 용어로 질문하므로, 키워드 일치 중심 검색만으로는 이미 축적된 질의응답에서 적절한 답을 찾기 어렵습니다. 어휘 단위 검색 점수와 문장 의미 유사도 점수를 함께 반영해 문장 구조가 달라도 의미가 가까운 후보 응답을 선별합니다.

3. 학습 데이터와 수치 질의의 신뢰성 부족

교육·업무용 질의응답 데이터를 사람이 모두 만들고 검수하면 시간이 많이 들며, 숫자·날짜·범위가 포함된 질문은 단순 문장 발췌 방식으로 정확히 답하기 어렵습니다. 생성된 질의응답 쌍의 토큰 생성확률로 품질을 평가하고, 숫자 관계와 필요한 연산을 판단하는 기계독해 방식으로 수치 정보가 포함된 문서 질의를 처리합니다.

연구자 및 특허 소개

임희석

고려대학교 컴퓨터학과

천안대학교 조교수

前 삼성종합기술원 전문연구원

前 한신대학교 조교수 — 인공지능, 자연어처리 강의

現 고려대학교 교수

기술신용보증기금 자문위원 · (주)엔엘피솔루션 기술고문

한국산학기술학회 상임이사 · 한국컴퓨터교육학회 및 한국정보과학회 정회원·심사위원

한국콘텐츠학회 정보관리위원 · 한국저작권위원회 위원(표절조정)

연구자 한마디

저는 대규모 언어모델 기반 질의응답과 대화 시스템의 신뢰성과 근거성을 높이기 위한 자연어처리 기술을 연구하고 있습니다. 에듀테크, 고객상담·업무지원 AI, 도메인 특화 LLM을 구축하는 기업은 의미 유사도 기반 응답 검색, 지식 기반 발화 정제, 수치 추론, 질의응답 데이터 평가를 결합해 답변 생성과 검수 과정을 구성할 수 있습니다. 보유 데이터와 서비스 목적에 맞춰 데이터 구축 및 파인튜닝 단계부터 적용 가능성을 함께 검토하고 협업하고자 합니다.

FAQ

연구자가 보유한 기술을 기업에 소개하는 기술 제안 자료입니다. 알앤디써클은 기업이 이 자료를 검토한 뒤 기술 도입이나 협업을 판단할 수 있도록, 연구자·연구기관과의 연결을 지원합니다.

이 기술이 귀사가 다루는 사업 영역에 적용될 수 있다고 알앤디써클에서 판단해 제안드렸습니다. 실제로 도움이 될 기술인지는 확인이 필요하니, 궁금한 점을 「기술 문의」로 남겨주세요.

기술 자료를 추가로 받아보거나 연구자와의 미팅을 요청하실 수 있습니다. 도입·협업을 검토하신다면 연구자와 연구기관에 직접 연결해드립니다. 필요한 내용을 「기술 문의」에 남겨주세요.

문의와 검토 과정에는 비용이 발생하지 않습니다. 기술 도입 조건은 이후 연구기관과 협의해 정하게 됩니다.

남겨주신 문의는 연구자와 연구기관에 전달되어 검토를 거칩니다. 검토 결과는 2일 내로 회신드리며, 협업이나 기술 도입 논의가 필요한 경우 미팅으로 연결해드립니다.

문의

담당자이준구
이메일jg.lee@rndcircle.io
연락처010-8978-6417