Sundong Kim 연구실은 범용 인공지능(AGI) 개발을 목표로, 시각적 귀납 추론, 창의적 수학 문제 해결, 강화학습, 뉴로-심볼릭 학습 등 다양한 인공지능 기술을 융합하여 연구를 수행하고 있습니다. 연구실은 인간의 문제 해결 전략을 모사하는 AI 모델을 개발하고, ARC(Abstraction and Reasoning Corpus)와 같은 벤치마크 데이터셋을 활용하여 AI의 추론 능력을 체계적으로 평가합니다. 이를 위해 게임 형태의 플랫폼, 학습 환경, 평가 시스템 등 다양한 도구와 시스템을 자체적으로 구축하고 있습니다.
특히, 강화학습 기반 프로그램 합성, 베이지안 추론, 커리큘럼 러닝, 지속 학습, 지식 증류 등 최신 AI 학습 패러다임을 적용하여, AI가 새로운 문제나 환경에 빠르게 적응하고 일반화할 수 있도록 연구합니다. 또한, 대형 언어 모델(LLM)과 평가 프레임워크를 활용하여, AI의 조합적 추론 능력, 논리적 일관성, 생산성 등을 진단하고, 실패 원인을 분석하여 개선 방안을 제시합니다. 이러한 연구는 인간과 유사한 사고력과 창의성을 갖춘 범용 인공지능 실현에 한 걸음 더 다가가고자 하는 데 초점을 맞추고 있습니다.
연구실은 AI의 신뢰성과 투명성을 높이기 위한 Human-AI Alignment(인간-AI 정렬) 연구에도 주력하고 있습니다. AI가 인간의 가치와 의도를 올바르게 이해하고 반영할 수 있도록, 다양한 평가 프레임워크와 진단 도구를 개발하고, 실제 사용자 행동 데이터를 분석하여 AI의 의도 추론 정확도를 높이고 있습니다. 이러한 연구는 AI의 설명 가능성, 공정성, 신뢰성 향상에 중요한 기여를 하고 있습니다.
또한, 연구실은 세관 물품 분류, 고객 재방문 예측, 공정성 있는 표현 학습 등 다양한 산업 및 사회적 문제 해결에도 AI 기술을 적용하고 있습니다. 실제 현장에서 발생하는 데이터와 문제를 바탕으로, AI의 실질적 활용 가능성과 사회적 영향까지 고려한 연구를 진행하고 있습니다. 이를 통해 AI가 사회적으로 바람직한 방향으로 발전할 수 있도록 기여하고 있습니다.
앞으로도 Sundong Kim 연구실은 강화학습, 뉴로-심볼릭 학습, 인간-AI 정렬 등 다양한 첨단 AI 기술을 바탕으로, 인간 수준의 적응력과 창의성을 갖춘 범용 인공지능 개발을 지속적으로 추진할 계획입니다. 더불어, AI의 신뢰성과 사회적 책임을 높이기 위한 연구도 병행하여, 미래 사회에 긍정적인 영향을 미칠 수 있는 AI 기술을 선도해 나갈 것입니다.
본 연구실은 시각적 귀납 추론과 창의적 수학 문제 해결을 위한 첨단 인공지능 기술 개발에 주력하고 있습니다. 인간의 문제 풀이 방식을 모사한 뉴로-심볼릭 프로그램 합성, 강화학습, 언어모델, 개념그래프 등 다양한 AI 기법을 활용하여 복잡한 추론 문제를 해결하는 방법을 연구합니다. 특히, ARC(Abstraction and Reasoning Corpus)와 같은 벤치마크 데이터셋을 활용하여 범용 인공지능의 추론 능력을 평가하고, 인간과 유사한 문제 해결 전략을 구현하는 데 집중하고 있습니다.
이러한 연구를 위해 게임 형태의 플랫폼, 학습 환경, 평가 시스템을 구축하고 있으며, 인지과학적 요소를 고려한 웹 애플리케이션 개발과 자동화된 레이블링 기법도 함께 개발하고 있습니다. 이를 통해 대량의 인간 풀이 데이터를 수집하고, AI가 실제 인간처럼 문제를 이해하고 해결할 수 있도록 학습 환경을 제공합니다. 최근에는 Mini-ARC와 같은 새로운 벤치마크 데이터셋을 개발하여, 모델의 복잡도를 줄이면서도 인간의 인지 과정을 효과적으로 반영할 수 있도록 하고 있습니다.
이 연구는 단순히 AI의 성능 향상에 그치지 않고, 인간의 창의적 사고와 추론 과정을 AI에 접목시켜 범용 인공지능의 실현에 한 걸음 더 다가가고자 합니다. 앞으로도 인간 수준의 추론 능력을 갖춘 AI 개발을 목표로, 다양한 문제 해결 전략과 평가 방법론을 지속적으로 탐구할 예정입니다.
강화학습 및 뉴로-심볼릭 학습을 통한 범용 인공지능 개발
연구실은 강화학습과 뉴로-심볼릭 학습을 결합하여 범용 인공지능(AGI) 개발에 앞장서고 있습니다. 강화학습 기반의 프로그램 합성 기법을 통해, 문제에 담긴 패턴을 파악하고 개념을 조합하여 복잡한 인지 추론 문제를 해결하는 방법을 연구합니다. 또한, 베이지안 추론, 커리큘럼 러닝, 지속 학습, 지식 증류 등 다양한 학습 패러다임을 적용하여, AI가 새로운 환경이나 문제에 빠르게 적응하고 일반화할 수 있도록 합니다.
특히, LLM(대형 언어 모델) 에이전트와 평가 프레임워크를 활용하여, AI의 추론 과정과 결과를 체계적으로 분석하고, 인간과의 정렬(Human-AI alignment) 문제도 함께 다룹니다. 연구실은 ARC-AGI, MC-LARC, GIF-ARC 등 다양한 프로젝트와 데이터셋을 통해 AI의 조합적 추론 능력, 논리적 일관성, 생산성 등을 진단하고, 실패 원인을 분석하여 개선 방안을 제시합니다. 이를 통해 AI가 인간과 유사한 방식으로 문제를 이해하고 해결할 수 있도록 하는 것이 목표입니다.
이러한 연구는 실제 응용 분야에서도 활발히 적용되고 있습니다. 예를 들어, 세관 물품 분류, 고객 재방문 예측, 공정성 있는 표현 학습 등 다양한 산업 및 사회적 문제 해결에 AI 기술을 접목하고 있습니다. 앞으로도 연구실은 강화학습과 뉴로-심볼릭 접근법을 바탕으로, 인간 수준의 적응력과 창의성을 갖춘 범용 인공지능 개발을 지속적으로 추진할 계획입니다.
AI 정렬(Human-AI Alignment) 및 평가 프레임워크 구축
본 연구실은 AI의 신뢰성과 투명성을 높이기 위한 Human-AI Alignment(인간-AI 정렬) 연구에 집중하고 있습니다. AI가 인간의 가치와 의도를 올바르게 이해하고 반영할 수 있도록, 다양한 평가 프레임워크와 진단 도구를 개발하고 있습니다. 특히, ARC 문제 해결 과정에서 나타나는 인간과 AI의 오차, 편향, 비효율적 행동을 분석하여, AI가 실제 인간의 문제 해결 전략과 얼마나 유사하게 동작하는지 정량적으로 평가합니다.
이 과정에서 O2ARC, ARCLE 등 자체 개발한 플랫폼을 활용하여, 사용자의 풀이 과정을 추적하고, 행동 로그를 기반으로 인지 편향이나 인터페이스 제약이 AI의 의도 추론에 미치는 영향을 분석합니다. 또한, Inverse Reinforcement Learning(역강화학습) 등 최신 기법을 적용하여, 사용자의 원래 의도를 얼마나 정확히 복원할 수 있는지 탐구합니다. 이러한 연구는 AI의 설명 가능성, 공정성, 신뢰성 향상에 중요한 기여를 하고 있습니다.
향후에는 도메인 특화 자동 가치 연계 평가, AI 모델 신뢰성 향상, 사회적 영향 분석 등 다양한 응용 분야로 연구를 확장할 계획입니다. 이를 통해 AI가 인간과 조화롭게 협력하고, 사회적으로 바람직한 방향으로 발전할 수 있도록 하는 것이 연구실의 궁극적인 목표입니다.
