이 연구실은 딥러닝 모델의 성능 향상뿐 아니라, 모델이 어떤 근거로 예측을 수행하는지를 이해하고 설명하는 설명가능한 인공지능 연구를 핵심 축으로 수행한다. 특히 이미지 분류, 멀티모달 추론, 음성 판별 등 신뢰성이 중요한 응용 분야에서 블랙박스 모델의 의사결정 과정을 해석 가능하게 만드는 데 주력한다. 이는 의료 진단, 자동화 시스템, 안전 중심 AI 서비스처럼 결과의 정당성과 검증 가능성이 중요한 환경에서 매우 중요한 연구 방향이다. 대표적으로 모델이 실제로 주목하는 개념을 추출하는 모델 중심 개념 설명 연구를 통해, 사람이 임의로 정의한 개념이 아니라 모델 내부 표현이 형성한 관점을 드러내는 방법론을 발전시키고 있다. 이러한 접근은 합성곱 신경망과 같은 시각 모델이 이미지의 어느 부분을 근거로 판단하는지 더 정교하게 분석할 수 있게 하며, 반사실 기반 자연어 설명 기술과 결합되어 멀티모달 모델의 응답을 언어적으로 설명하는 방향으로도 확장되고 있다. 또한 딥페이크 음성 분류 특허와 같은 성과는 설명 가능한 분류 결과를 실제 시스템 수준으로 연결하려는 연구실의 응용 지향성을 보여준다. 이 연구는 단순한 시각화 도구 개발을 넘어, 인간이 신뢰할 수 있는 AI를 만드는 기반 기술로서 의미를 가진다. 앞으로는 대규모 언어모델, 시각-언어모델, 의료 AI와 같이 복잡성이 높은 모델에 대해 인과적·반사실적 설명을 제공하는 방향으로 발전할 가능성이 크다. 연구실은 설명의 정확성, 인간 친화성, 실제 의사결정 지원 가능성을 함께 고려하며, 성능 중심 AI를 신뢰 중심 AI로 전환하는 데 기여하고 있다.

이 연구실은 분산 환경에서 데이터를 직접 공유하지 않고 협력적으로 학습하는 연합학습 분야에서 공정성과 개인정보 보호 문제를 함께 다루는 연구를 수행한다. 연합학습은 의료, 금융, 모바일 서비스처럼 민감한 데이터를 포함하는 영역에서 매우 유용하지만, 데이터 분포의 편향과 참여자 간 불균형으로 인해 특정 집단에 불리한 결과가 발생할 수 있다. 따라서 연구실은 단순한 분산 학습 효율을 넘어서, 사회적 책임성과 신뢰성을 고려한 학습 프레임워크 설계에 주목하고 있다. 관련 논문에서는 연합학습 환경에서 공정성과 프라이버시를 동시에 달성하기 위한 방법들을 체계적으로 정리하고, 협업형 공정 연합 증류와 같은 구체적 방법론으로 확장하고 있다. 특히 연합 증류는 전체 모델 파라미터를 직접 공유하는 대신 지식 전달 형태로 협력하므로 통신 효율성과 개인정보 보호 측면에서 장점이 있다. 연구실은 이러한 구조에서 집단 간 성능 격차를 줄이고, 모델이 특정 사용자군이나 소수 집단에 대해 불균형하게 동작하지 않도록 만드는 알고리즘적 설계에 관심을 보인다. 이 연구는 기술적 측면뿐 아니라 AI 윤리, 데이터 거버넌스, 책임 있는 인공지능과도 맞닿아 있다. 앞으로 의료 데이터 연합학습, 엣지 디바이스 기반 협력 AI, 대규모 멀티모달 분산 학습으로 응용 범위가 넓어질수록 공정성과 프라이버시를 동시에 만족하는 학습 기법의 필요성은 더욱 커질 것이다. 연구실은 이 분야에서 이론적 정리와 실제 적용 가능성을 모두 고려하며, 사회적으로 신뢰 가능한 분산형 AI 시스템 구축에 기여하고 있다.

이 연구실은 컴퓨터비전과 시계열 생체신호 분석을 결합하여 실제 문제를 해결하는 응용 인공지능 연구도 활발히 수행하고 있다. 최근 연구 성과를 보면 영상 기반 개념 설명, 갑상선 결절 분할, LiDAR 포인트 클라우드 추적, 수면 단계 분류 등 서로 다른 데이터 형식을 다루면서도 공통적으로 딥러닝 기반 인식과 해석 기술을 발전시키고 있다. 이는 연구실이 특정 데이터 유형에 국한되지 않고, 다양한 현실 데이터를 처리하는 범용 AI 역량을 보유하고 있음을 보여준다. 의료 분야에서는 IoMT 환경과 결합된 갑상선 결절 분할, 자기지도학습 기반 수면 단계 분류, 일상생활 뇌-생체신호 기반 수면 건강관리 프로젝트 등이 대표적이다. 이러한 연구는 레이블이 제한적인 의료 데이터 문제를 해결하기 위해 자기지도학습, 전이학습, 시계열 모델링, 설명가능 AI를 함께 활용한다. 특히 웨어러블 기반 생체신호 분석은 병원 밖 일상 환경에서 건강 상태를 지속적으로 이해하고 개인 맞춤형 관리로 연결할 수 있다는 점에서 중요하다. 한편 컴퓨터비전 분야에서는 3차원 포인트 클라우드 추적과 같이 자율주행, 로보틱스, 공간 인지와 밀접한 과제를 다루며, 강인한 특징 표현과 움직임 단서 활용에 관심을 보이고 있다. 이는 영상뿐 아니라 3D 센서 데이터까지 연구 범위를 확장하고 있음을 의미한다. 앞으로 연구실의 비전 기반 인공지능은 의료 영상, 스마트 헬스케어, 자율 시스템, 사물인터넷 센서 환경으로 계속 연결되며, 실제 산업과 사회 문제를 해결하는 고신뢰 지능 시스템으로 발전할 가능성이 크다.

이 연구실은 초기부터 추천시스템, 협업필터링, 생성모델 기반 사용자 선호 예측에 강한 연구 기반을 갖추고 있다. 학위 과정과 국제학회 발표, 등록 특허들을 살펴보면 GAN을 활용한 평점 증강, 생성적 적대 신경망 기반 협업 필터링, 추천 다양화, 효율적 유사 사용자 탐색 등 데이터 기반 개인화 기술을 꾸준히 연구해 왔음을 알 수 있다. 이러한 연구는 대규모 사용자-아이템 상호작용 데이터를 바탕으로 개인 맞춤형 서비스를 고도화하는 데 목적이 있다. 특히 생성모델을 추천에 적용하는 접근은 관측되지 않은 선호를 보완하고 희소한 평점 행렬 문제를 완화하는 데 장점이 있다. 연구실은 사용자의 명시적 피드백이 부족한 상황에서도 생성 모델이 잠재 선호를 학습하도록 설계하고, 보다 정확하고 유연한 추천 결과를 제공하는 방법을 탐구해 왔다. 이는 전자상거래, 콘텐츠 플랫폼, 광고, 검색, 사용자 행동 분석 등 다양한 산업 현장과 직접 연결될 수 있는 실용적 연구 주제다. 이 축적된 추천·지식처리 연구 경험은 현재의 설명가능 AI, 멀티모달 모델, 산업 적용 연구와도 자연스럽게 이어진다. 예를 들어 추천 결과에 대한 설명, 사용자 편향 완화, 개인화와 공정성의 균형 같은 문제는 최신 책임형 AI 연구와 밀접하게 연결된다. 연구실은 전통적인 데이터마이닝과 최신 딥러닝·생성모델을 결합하여, 더 정확하고 해석 가능하며 실제 서비스에 적용 가능한 지능형 의사결정 기술을 발전시키고 있다.