이 연구는 생성 AI가 만들어내는 콘텐츠의 사실적 일관성과 진실성을 체계적으로 검증하고, 환각(hallucination) 현상을 탐지 및 완화하는 핵심 기술을 개발하여, 신뢰할 수 있는 생성 AI 생태계 구축을 목표로 한다. 이를 위해 연구진은 생성 AI가 주어진 정보에 대해 실제 세계의 사실과 어긋나는 내용을 생성하는 현상을 탐지하고 그 원인을 체계적으로 분석하는 기술을 개발하며, 문제 발생의 원인을 훈련 데이터, 프롬프트 설계, 모델 구조, 학습 과정 및 디코딩 전략 등으로 세분화하여 각각에 최적화된 환각 완화 기법을 설계하고자 한다. 궁극적으로는 이러한 탐지 및 완화 기술을 토대로 도메인 특화된 신뢰형 생성 AI 모델을 구축하고, 자동화된 평가 시스템과 함께 환각 검출용 벤치마크 데이터셋, 설계 가이드라인, 데이터 저작 도구 등을 개발·공개함으로써 생성 AI의 품질과 신뢰도를 정량적으로 평가할 수 있는 인프라를 마련한다. 본 과제의 성과는 인간 피드백을 대체하는 RLMF(Reinforcement Learning with Machine Feedback)와 같은 미래형 학습 프레임워크로 확장되어, 비용 효율성을 높이고 인간 개입의 주관성을 줄이는 동시에, 의료·법률·금융 등 고신뢰 산업 분야에서 생성 AI의 적용 가능성을 대폭 확대할 수 있다. 또한 다양한 규모와 아키텍처의 언어모델에 유연하게 적용될 수 있는 기술로서, 클라우드 기반의 초거대모델부터 소형 디바이스에서도 운영 가능한 범용성까지 확보함으로써, 산업 전반에 걸쳐 높은 기술 파급력과 상용화 가능성을 보여준다. 사회적으로도 정보 취약계층을 포함한 일반 대중에게 신뢰도 높은 정보를 전달할 수 있는 기반을 제공함으로써 AI 활용의 접근성과 수용성을 증진하고, 국가지원 기술정책에서의 전략적 우위를 확보할 수 있는 기반 기술로 자리매김할 수 있을 것으로 기대된다.

이 연구는 변화하는 실세계의 전문지식을 스스로 학습하고, 사용자 상황에 적합한 지식과 사례를 추론하여 자연어로 설명할 수 있는 전문가 의사결정 지원 인공지능 소프트웨어를 개발하고 실증하는 것을 목표로 한다. 초기 단계에서는 학습되지 않은 불확실한 지식을 자율적으로 인식하고 이를 외부의 변화하는 정보와 동적으로 연동할 수 있는 ‘플러그앤플레이 전문지식 학습 기술’을 구축하고, 단일 조건 하의 사용자 상황을 해석하여 Example-based 및 Provenance-based reasoning 기법을 통해 찬반 근거 기반의 판단을 제공할 수 있는 핵심 추론 기술을 개발하였다. 또한 사용자의 질의에 기반한 전문지식 다중 텍스트 요약 기술과 판단예측 및 설명 기반 보고서 생성 기술, 사용자 상황 이해에 최적화된 자연어 설명 프레임워크 등을 통합하여 전문가에게 실질적인 의사결정 도움을 줄 수 있는 AI 시스템을 구현하였다. 이어 2단계에서는 플러그인된 지식의 출처(provenance)를 추적하여 설명성을 높이고, 다중 조건에 따른 Tree-based 및 Counter-factual reasoning 기술을 적용해 보다 견고한 판단 예측을 가능하게 하며, 인터랙티브 스토리텔링 방식의 보고서 생성을 통해 설명 가능성과 사용자 경험을 한층 강화하였다. 이러한 기술은 다양한 전문 분야에 적용 가능한 범용 AI 솔루션으로 확장될 수 있으며, 특히 고비용 지식검색 솔루션의 대안을 제공하면서도 높은 정확도(F1), 설명 재현율(ROUGE-1), 전문가 만족도 등을 확보함으로써 신뢰성과 실효성을 동시에 만족시키는 성과를 목표로 한다. 기술적으로는 초거대 AI와의 협력을 통해 국산 인공지능 기술의 경쟁력을 강화하고, 경제·산업적으로는 한국어 기반 언어 AI 시장 확대 및 스마트 오피스 생태계 구축에 기여하며, 사회적으로는 지식 접근성 향상과 지식 격차 해소, 국내 지식근로자의 생산성 및 협업 능력 향상 등 다각적인 파급 효과가 기대된다.

이 연구는 인지과학과 글로벌 선도기업의 사고력 개발 원리를 기반으로, 초·중·고등학생의 사고 구조를 체계적으로 확장시키고 문해력, 사고력, 문제해결력 등 전반적인 학습 역량을 향상시키기 위한 인공지능 기반의 생각구조화 학습 튜터링 기술을 개발하는 데에 목적이 있다. 연구진은 자연어처리(NLP) 기술과 대규모 언어모델(LLM)을 활용하여 키워드 기반의 빈칸 생성 엔진, 학습자 텍스트의 범주 분석 및 추천 기능, 유사 구문 임베딩을 통한 자동 답안 생성 모듈을 개발하였으며, 교육 도메인에 특화된 딥러닝 모델을 통해 문장 이해와 표현의 정확도를 높였다. 또한 언어 모델의 확률 기반 정보 선택 기능을 활용하여 중요한 정보를 추출하고, 가변 길이의 요약문 생성을 가능케 하는 AI 튜터링 시스템을 구축하였다. 이 시스템은 개별 학습자의 사고 패턴을 분석해 맞춤형 학습을 제공하고, 표현력과 자기주도 학습 능력을 기를 수 있도록 설계되었다. 기대효과로는 과학기술적으로 글로벌 수준의 AI 기반 에듀테크 솔루션 기술을 확보하고, 인공지능을 접목한 두뇌 작동 원리 기반 학습법의 지능화를 통해 국내외 온라인 교육 시장에 진출할 수 있는 가능성을 크게 높인다는 점이 있으며, 산업·사회적으로는 MZ세대를 포함한 전 세대의 문해력 및 정보판별 능력 향상, 에듀테크 산업의 혁신 주도, 학습격차 해소 등의 효과가 예상된다. 경제적 측면에서도 사교육비 절감, 온라인 교육 콘텐츠 시장에서의 신규 매출 및 고용 창출, 해외 수출 기반 확보 등 실질적인 경제적 파급효과가 기대되며, 모바일 앱과 연동된 AI 학습 플랫폼, 교육 데이터셋 등 다양한 형태의 성과물도 함께 도출될 예정이다.

이 연구는 자연어처리 AI 기술을 활용해 보험설계사의 실무 역량을 체계적이고 정량적으로 훈련할 수 있는 지능형 RP(Role-play) 훈련 및 평가 시스템을 개발하는 것을 목표로 하며, 보험설계사가 고객을 만나기 전 실제 상황을 가상으로 시뮬레이션하고 AI 기반 피드백을 받을 수 있도록 설계되었다. 1단계에서는 가상고객의 질문과 이에 대한 보험설계사의 답변, 전문가의 평가 점수로 구성된 학습 데이터를 수집·가공하여, LSTM 및 Transformer 기반 사전학습 언어모델을 활용한 답변 채점용 딥러닝 모델을 개발하고 정확도와 응답분류 성능을 검증하였다. 이 모델은 단순한 응답 일치 여부만이 아닌, 발화의 억양, 속도, 응대 품질까지 종합적으로 판단할 수 있도록 설계되었으며, 실시간 성능지표(FCP 1.5초 이내) 달성을 통해 웹 기반 학습서비스로서의 기술적 안정성도 확보되었다. 2단계에서는 이러한 AI 기반 기술을 토대로 실제 시뮬레이션 훈련과 평가가 가능한 앱 서비스로 고도화하고, 보험사 대상의 시범서비스를 통해 시장성과 사업화를 검증하여 제품 상용화를 추진한다. 학습 결과는 AI 리포트로 제공되며, 사용자별 종합역량, AI 코칭, 개선 추이 등을 시각화하여 개인 맞춤형 피드백을 제공함으로써 자가 학습과 반복 훈련을 통한 실제 영업 스킬 향상을 도모한다. 본 기술은 기존의 일방향적 강의나 LMS 기반 교육과는 차별화된 실습 중심의 디지털 트레이닝 솔루션으로, 보험설계사 개인의 역량 향상은 물론 기업 차원의 HR 운영 효율성과 비용 절감 효과를 제공할 수 있다. 또한 장기적으로는 이직률이 높은 보험업계에서 실무능력을 향상시키고 조직 내 장기 고용을 유도할 수 있는 교육 혁신 모델로 자리매김할 수 있으며, ‘쏘카인드’ 서비스와의 연계 개발을 통해 조기 상용화 및 시장 확산도 기대된다.