강건하고 신뢰할 수 있는 머신러닝
이 연구실은 실제 환경에서 안정적으로 작동하는 머신러닝 시스템을 핵심 목표로 삼고, 데이터 노이즈·분포 변화·적대적 공격·불완전한 입력 등 다양한 불확실성에 대응할 수 있는 강건한 인공지능 기술을 연구한다. 단순히 벤치마크 성능을 높이는 데 그치지 않고, 현실의 제약과 위험 요소를 고려하여 신뢰성, 일반화 성능, 안전성을 함께 확보하는 방향의 학습 지능 개발에 집중하는 점이 특징이다. 특히 사용자와 상호작용하는 지능형 시스템이 예기치 못한 상황에서도 일관된 판단을 유지하도록 만드는 문제를 중요한 연구 축으로 다룬다. 구체적으로는 적대적 공격에 강한 이미지 인식, 블랙박스 환경에서의 쿼리 효율적 공격 및 방어, 라벨 노이즈와 이상치 탐지, 설명가능성과 공정성까지 포함한 신뢰 가능한 학습 기법이 연구 범위에 포함된다. 제공된 특허에서도 스타일 정보 기반 정규화와 색상 왜곡 보정을 활용한 강건한 이미지 분류·인식 기술이 확인되며, 이는 컴퓨터 비전 모델이 입력 변화에 민감하게 흔들리는 문제를 완화하려는 시도로 해석할 수 있다. 또한 프로젝트에서는 강건성, 공정성 및 보안, 자가학습, 인간-AI 상호작용, 계산 효율성 등 실제 적용을 위한 핵심 요소를 체계적으로 통합하고 있다. 이러한 연구는 의료, 산업 자동화, 보안, 사용자 인터페이스 등 실패 비용이 큰 응용 분야에서 특히 큰 가치를 갖는다. 강건한 머신러닝은 단순한 성능 향상이 아니라 사회적으로 신뢰할 수 있는 AI의 기반을 마련하는 작업이며, 연구실은 이 방향에서 알고리즘적 원천기술과 실제 적용 가능한 시스템 기술을 동시에 추구하고 있다. 앞으로는 생성형 AI와 체화 인공지능까지 포함해, 더 복잡한 입력과 상호작용 조건에서도 안전하게 작동하는 학습 프레임워크로 확장될 가능성이 크다.
강화학습과 목적지향 추론
송현오 연구실의 또 다른 핵심 축은 강화학습 기반의 목적지향 인공지능과 추론 기술이다. 이 연구는 정적인 예측 모델을 넘어, 에이전트가 환경과 상호작용하며 목표를 달성하도록 학습하는 문제를 다룬다. 특히 구조화되지 않고 지속적으로 변화하는 현실 환경에서 적은 데이터로 빠르게 적응하고, 장기적인 보상을 고려해 행동 전략을 수립하는 지능을 만드는 데 초점을 둔다. 프로젝트 정보에 따르면 연구실은 산업용 로봇의 한계를 넘기 위한 새로운 패러다임의 로봇 강화학습 원천기술, 오프라인 강화학습, 물리 기반 강화학습, 메타로보틱스, 조작 및 내비게이션을 포함한 목적지향 AI를 수행하고 있다. 학술 발표 이력에서도 오프라인 강화학습의 불확실성 추정, 일반화 성능을 위한 가치함수 학습 재고, 계층적 성취 구조 발견, 선호 기반 정책 최적화 등 강화학습 이론과 응용을 모두 포괄하는 주제가 확인된다. 이는 단순한 정책 학습이 아니라 데이터 효율성, 일반화, 안전성, 인간 선호 반영까지 연결된 폭넓은 연구를 수행하고 있음을 보여준다. 이 연구는 로봇, 자율 시스템, 추천 및 의사결정 시스템, 인간과 협업하는 AI 에이전트 등 다양한 분야에 직접 연결된다. 특히 실제 환경에서 수집한 제한된 데이터만으로도 잘 작동하는 학습 정책을 만드는 것은 산업적 파급력이 매우 크다. 연구실은 강화학습을 실세계 문제 해결의 핵심 도구로 확장하면서, 목표 지향적 행동 생성과 추론 능력을 겸비한 차세대 인공지능의 기반 기술을 구축하고 있다.
효율적인 딥러닝과 대규모 모델 최적화
이 연구실은 높은 성능뿐 아니라 계산 효율성과 배치 가능성을 갖춘 딥러닝 모델 설계에도 강점을 보인다. 최근 인공지능 모델은 규모가 급격히 커지면서 메모리 사용량, 추론 지연, 에너지 소비, 하드웨어 제약이 중요한 문제가 되었고, 연구실은 이러한 병목을 해결하는 압축·경량화·양자화·캐시 압축·네트워크 깊이 축소 기술을 활발히 연구하고 있다. 이는 실제 서비스와 엣지 환경에서 AI를 안정적으로 운용하기 위한 필수 기술이다. 학회 발표 목록에는 LLM 배포를 위한 분수 비트 양자화, 손실 기반 유도 양자화, KV 캐시 압축, 온라인 언어모델 상호작용을 위한 압축 메모리, 레이어 병합과 가지치기를 통한 깊이 압축, 지연시간 인지형 CNN 압축 등이 포함되어 있다. 또한 초기 연구부터 양자화 가능한 표현 학습과 효율적 종단간 학습을 다루어 왔다는 점에서, 연구실의 효율화 연구는 일회성 주제가 아니라 장기간 축적된 핵심 역량이라고 볼 수 있다. 이러한 연구는 모델 성능 저하를 최소화하면서도 실제 하드웨어에서의 비용을 크게 줄이는 것을 목표로 한다. 효율적인 딥러닝은 대형 언어모델, 비전 모델, 멀티모달 모델의 실용화를 결정짓는 핵심 요소다. 연구실의 접근은 알고리즘 수준의 최적화와 시스템 수준의 배포 문제를 함께 다룬다는 점에서 의미가 크며, 향후 온디바이스 AI, 자원 제약 환경, 고성능 추론 서비스 등 다양한 영역에서 활용 가능성이 높다. 특히 하드웨어 정보를 반영한 프로그램 최적화와 결합해, 모델과 시스템을 함께 최적화하는 통합적 AI 엔지니어링으로 발전할 잠재력을 보여준다.