황성주 연구실은 성능 중심의 인공지능을 넘어 신뢰할 수 있는 인공지능을 구축하는 데에도 큰 비중을 두고 있다. 관련 연구는 적대적 공격과 방어, 모델 취약점 자동 탐지, 설명가능성, 네트워크 해석의 신뢰성, 모델 압축 과정에서의 속성 보존 등으로 구성된다. 이는 인공지능이 실제 서비스와 산업 현장에 도입될 때 필수적으로 요구되는 안정성, 보안성, 해석가능성을 확보하기 위한 연구 방향이다. 구체적으로 연구실은 엔트로피 가중 적대적 학습, 역기능 취약점 자동 탐지 및 인증가능한 방어, 모델 역공학 및 모델 인버전 공격 대응, 워터마킹, 설명 생성의 역이용 저항성 등 다양한 관점에서 모델 보안을 다루고 있다. 또한 압축과 경량화가 필요한 환경에서도 네트워크의 중요한 속성과 설명력을 유지하도록 하는 기술을 개발함으로써, 실제 배포 가능한 인공지능 시스템의 신뢰성을 높이고자 한다. 이러한 연구는 단순히 공격을 막는 수준을 넘어, 모델이 왜 그런 예측을 하는지 이해하고 검증하는 체계까지 포함한다. 이 주제는 생성형 AI와 초거대언어모델의 확산으로 더욱 중요해지고 있다. 연구실의 최근 컨퍼런스 성과에서도 대규모 언어모델 안전성, 레드티밍, 안전 가드레일, 지식 검증, 모델 선택과 같은 문제들이 활발히 다뤄지고 있으며, 이는 비전 모델과 언어모델을 아우르는 공통 기반의 안전한 AI 연구로 이어진다. 결국 이 연구는 고성능 AI를 사회적으로 수용 가능한 형태로 만들기 위한 필수 조건을 탐구한다는 점에서 연구실의 중요한 정체성을 이룬다.

황성주 연구실의 핵심 축 중 하나는 시각정보처리와 영상인식을 중심으로 한 컴퓨터 비전 연구이다. 초기 연구에서는 이미지 태그와 객체의 상대적 중요도를 학습하여 검색과 객체 위치 추정을 고도화하는 문제를 다루었으며, 이는 단순히 이미지 안에 무엇이 있는지를 분류하는 수준을 넘어 사람의 주의, 맥락, 의미적 관계까지 모델링하려는 방향으로 확장되었다. 이러한 연구 흐름은 이미지 검색, 객체 검출, 장면 이해, 비디오 이해 등 다양한 시각 지능 문제를 포괄한다. 최근에는 비전 트랜스포머, 비디오 표현학습, 파노픽 세그멘테이션, 약지도 및 반지도 학습, 분포외 일반화 등 보다 복합적인 영상 이해 문제로 연구가 확장되고 있다. 비디오에서의 연속적 표현 학습, 효율적인 토큰 선택, 시공간 정렬, 프롬프트 기반 적응 등은 대규모 시각 모델을 실제 환경에서 더 효율적이고 강건하게 활용하기 위한 방법론으로 연결된다. 또한 텍스트-이미지 생성, 다중 주체 개인화, 확산모델 기반 생성 등 생성형 비전 분야에서도 활발한 성과를 보이며, 인식과 생성의 경계를 넘는 통합적 비전 연구를 수행하고 있다. 이 연구 주제의 의의는 시각 데이터를 단순 처리 대상이 아니라 의미와 맥락을 담은 구조적 정보로 해석한다는 점에 있다. 이를 통해 자율 시스템, 멀티모달 에이전트, 검색 시스템, 의료 및 산업 영상 분석과 같은 실세계 응용으로 자연스럽게 이어질 수 있다. 연구실은 전통적인 컴퓨터 비전 문제의 정밀도 향상뿐 아니라, 대규모 모델 시대에 맞는 효율성, 일반화, 적응성까지 함께 추구함으로써 차세대 시각지능의 기반 기술을 구축하고 있다.

이 연구실의 또 다른 대표 주제는 메타학습과 지속학습이다. 메타학습에서는 적은 데이터와 새로운 태스크에 빠르게 적응할 수 있는 학습 알고리즘을 개발하는 데 초점을 두며, 대규모 메타학습, 비지도 메타학습, 크로스도메인 메타학습, 멀티모달 메타학습 등 실세계 문제에 적용 가능한 방향으로 연구가 전개되고 있다. 이는 기존 딥러닝이 대량의 정답 데이터와 고정된 학습 환경을 요구한다는 한계를 극복하기 위한 중요한 접근이다. 지속학습 분야에서는 새로운 데이터와 태스크가 순차적으로 주어질 때 기존 지식을 잊지 않으면서 학습을 이어가는 문제를 다룬다. 연구실은 dynamically expandable networks, winning subnetworks, rehearsal 기반 기법, 표현 연속성 유지, few-shot class incremental learning 등 다양한 방법을 통해 망각을 줄이고 적응성을 높이는 알고리즘을 제안해 왔다. 특히 비디오 표현과 같은 고차원 데이터에 대해서도 지속학습을 적용하며, 희소 서브네트워크와 효율적 파라미터 재사용을 통해 성능과 계산 효율을 동시에 확보하려는 시도가 돋보인다. 메타학습과 지속학습은 궁극적으로 스스로 성장하고 환경 변화에 적응하는 인공지능을 향한 기반 기술이다. 연구실이 추진하는 체화 인공지능, 자동화 인공지능 프레임워크, 하이퍼파라미터 최적화, 신경망 생성 등과도 긴밀히 연결되며, 단일 태스크 최적화에 머무르지 않는 범용 학습 패러다임을 지향한다. 이러한 연구는 데이터 희소성, 분포 변화, 태스크 확장성이 중요한 실제 산업과 과학 문제에서 특히 높은 파급력을 가진다.

연구실은 최근 멀티모달 학습과 대규모 언어모델, 그리고 과학 분야 응용을 결합하는 방향으로 연구 스펙트럼을 넓히고 있다. 초거대언어모델의 추론, 검색증강생성, 장문맥 처리, 효율적 프롬프트 구성, 작은 모델로의 증류, 멀티모달 확장 등의 주제는 최근 발표된 다수의 국제학회 성과에서 확인된다. 이는 비전 중심 연구를 넘어 언어, 영상, 코드, 검색, 지식베이스를 통합하는 범용 인공지능 시스템 연구로 발전하고 있음을 보여준다. 특히 분자-단백질-언어 삼중모달리티 파운데이션 모델, 단백질-리간드 상호작용 기반 신약개발, 천연물 생합성 경로 예측 READRetro와 같은 프로젝트와 논문은 연구실의 AI for Science 역량을 잘 드러낸다. 이들 연구는 화학 구조, 생물학적 상호작용, 텍스트 지식, 대규모 학습을 결합하여 신약 후보 탐색, 생합성 경로 예측, 임상 결과 예측을 고도화하는 것을 목표로 한다. 또한 연합학습과 설명가능성을 함께 고려함으로써 의료·바이오 데이터의 민감성과 해석 필요성에도 대응하고 있다. 이러한 연구 방향은 연구실이 단순히 알고리즘을 개발하는 수준을 넘어, 실제 과학 문제와 산업 문제를 해결하는 플랫폼형 AI를 지향하고 있음을 뜻한다. 언어모델, 비전-언어모델, 생성모델, 검색 기반 추론, 분자 생성모델이 하나의 연구 생태계 안에서 연결되며, 궁극적으로는 실세계 문제에 적용 가능한 범용적이고 확장 가능한 AI 시스템으로 수렴한다. 따라서 이 주제는 연구실의 최신 확장성과 융합성을 대표하는 중요한 연구 분야로 볼 수 있다.