김선동 연구실의 핵심 연구 축은 인간처럼 개념을 추상화하고, 그 개념을 조합하여 새로운 문제를 해결하는 인공지능의 구현이다. 특히 ARC(Abstraction and Reasoning Corpus)와 같은 인지 추론 벤치마크를 활용해, 단순한 정답 산출을 넘어 문제 해결 과정 자체를 분석하고자 한다. 이는 현재의 대규모 언어모델이나 딥러닝 시스템이 보여주는 표면적 성능을 넘어, 진정한 의미의 일반화와 적응 능력을 갖춘 지능으로 발전하기 위한 기초 연구로 볼 수 있다. 이 연구실은 논리적 일관성, 조합성, 생산성과 같은 인간 추론의 핵심 요소를 중심으로 모델을 평가하고 개선한다. 이를 위해 월드 모델, 프로그램 합성, 강화학습, 유비 추론, 신경-기호적 접근을 함께 탐구하며, 문제 속 패턴을 구조적으로 파악하는 학습 방법을 개발하고 있다. 대형 언어모델의 추론 능력을 결과 중심이 아니라 과정 중심으로 해석하려는 연구, ARC용 강화학습 환경 구축, 잠재 프로그램 구조를 이용한 문제 해결 방식 등은 이러한 방향성을 잘 보여준다. 장기적으로 이 연구는 범용 인공지능에 가까운 시스템의 기반 기술로 확장될 가능성이 크다. 정해진 데이터 분포 안에서만 작동하는 모델이 아니라, 처음 보는 과제에서도 개념을 재구성하고 단계적으로 해법을 찾아가는 AI를 목표로 한다. 이는 게임 에이전트, 복합 문제 해결, 자동 과학 발견, 교육용 지능형 튜터, 고신뢰 의사결정 시스템 등 다양한 응용으로 이어질 수 있으며, 인간 수준의 사유 능력을 갖춘 차세대 AI 개발에 중요한 토대를 제공한다.

연구실은 초거대언어모델의 성능을 단순한 생성 품질이나 벤치마크 점수로만 판단하지 않고, 실제로 얼마나 깊이 있는 사고와 구조적 이해를 수행하는지를 정밀하게 평가하는 연구를 수행한다. 최근 대규모 언어모델은 다양한 작업에서 높은 성능을 보이지만, 개념적 추상화나 단계적 문제 해결에서는 여전히 인간 수준에 미치지 못하는 한계가 존재한다. 김선동 연구실은 이러한 간극을 체계적으로 드러내고 분석하기 위해 새로운 평가 프레임워크와 데이터셋, 테스트베드를 구축하고 있다. 구체적으로는 ARC 기반 분석, 다지선다형 추론 데이터셋, 유비적 문제 해결 변환, 합성 데이터 생성, 멀티모달 확장, 시스템 2 추론 관점의 실험 설계 등이 연구에 포함된다. 또한 LoTH(Language of Thought Hypothesis) 관점에서 모델의 논리적 연결성, 개념 결합 능력, 새로운 상황에서의 생산적 적용 가능성을 검토한다. 이러한 연구는 단순히 모델의 약점을 지적하는 데 그치지 않고, 어떤 학습 구조와 환경이 더 나은 추론을 유도하는지 탐색하는 방향으로 이어진다. 이 분야의 성과는 차세대 언어모델의 신뢰성과 활용 가능성을 높이는 데 직접적으로 기여한다. 특히 도메인 특화 LLM, 멀티모달 지능 시스템, 설명 가능한 AI, 인간-기계 협업 시스템에서 고급 추론 능력은 핵심 경쟁력이 된다. 연구실이 수행 중인 초거대언어모델 혁신 연구, 가치 연계 평가, 신뢰성 확보 연구는 이러한 문제의식을 반영하며, 앞으로 더 안전하고 정교하며 인간 의도에 부합하는 언어지능 개발에 중요한 기반이 될 것이다.

김선동 연구실은 인공지능이 실제 공공 및 산업 현장에서 사람의 의사결정을 보조할 수 있도록, 설명가능성과 인간 개입을 핵심 원리로 삼는 응용 연구도 활발히 수행한다. 대표적으로 세관 물품 분류, 우범 선별, 검사 대상 추천과 같은 고위험 행정 업무에서 AI가 단순 자동화 도구가 아니라 전문가가 이해하고 검토할 수 있는 지원 시스템으로 작동하도록 설계한다. 이는 정확도만 높은 블랙박스 모델보다, 근거를 제시하고 사람의 피드백을 반영할 수 있는 시스템이 실제 현장에서 더 큰 가치를 가진다는 인식에 기반한다. 연구실의 관련 성과로는 HS 코드 분류를 위한 설명가능 AI, 세관 검사에서의 인간 참여형 능동학습, 탐색과 착취를 결합한 검사 전략, 관련 문서 근거 검색 기술 등이 있다. 특허로도 이어진 이러한 연구는 실제 사례 데이터와 전문가 평가를 통해 검증되었으며, 모델이 추천한 결과와 그 이유를 함께 제공함으로써 사용자 신뢰를 높였다. 또한 도메인 변화와 데이터 편향에 대응하기 위해 능동학습과 적응형 학습 전략을 적용해, 시간이 지나도 성능이 유지되도록 하는 점이 특징이다. 이 연구 방향은 공공행정, 법률, 무역, 의료, 금융 등 설명 책임이 중요한 영역으로 넓게 확장될 수 있다. 인간-기계 협업 구조 안에서 AI가 어떻게 신뢰 가능한 조력자가 될 수 있는지에 대한 실질적 해법을 제시한다는 점에서 의미가 크다. 앞으로는 단순한 예측 정확도를 넘어, 근거 제시, 가치 정렬, 사용자 맞춤형 설명, 정책적 수용성까지 포괄하는 인간중심 AI 연구로 발전할 가능성이 높다.