박상돈 교수 연구실은 인공지능의 신뢰성, 안전성, 그리고 실용성 향상을 목표로 다양한 첨단 연구를 수행하고 있습니다. 본 연구실은 대형 언어 모델(LLM) 및 코드 생성의 신뢰성 확보, 기계학습의 불확실성 정량화, 머신 언러닝, 그리고 AI 레드팀 및 공격 탐지 등 인공지능의 핵심 이슈를 다각도로 탐구하고 있습니다. 특히, 신뢰할 수 있는 LLM 개발과 코드 생성의 안전성 보장은 최근 인공지능 분야에서 매우 중요한 주제로 부상하고 있습니다. 본 연구실은 선택적 코드 생성, 신뢰 기반 검색 증강 질의응답, 그리고 예측 결과의 신뢰도 평가 등 다양한 방법론을 통해 LLM의 신뢰성과 실용성을 높이고 있습니다. 이러한 연구는 실제 소프트웨어 개발, 보안, 자동화 등 다양한 산업 현장에서 큰 파급 효과를 기대할 수 있습니다. 또한, 기계학습 모델의 불확실성 정량화와 머신 언러닝 분야에서도 선도적인 연구를 진행하고 있습니다. PAC 예측 집합, 라벨 시프트 및 공변량 시프트 상황에서의 적응적 예측, 그리고 메타러닝 환경에서의 신뢰성 있는 예측 집합 생성 등 이론적·실용적 연구를 통해 인공지능 시스템의 신뢰성과 투명성을 높이고 있습니다. 머신 언러닝 연구는 개인정보 보호와 규제 준수 측면에서도 중요한 역할을 하고 있습니다. AI 레드팀 및 공격 탐지 연구는 인공지능 시스템의 보안성 강화에 중점을 두고 있습니다. 실제 공격 시나리오를 모사하여 모델의 취약점을 분석하고, UAV 등 사이버-물리 시스템에서의 공격 탐지 및 방어 기술을 개발하고 있습니다. 이러한 연구는 미래의 다양한 AI 응용 분야에서 안전하고 신뢰할 수 있는 시스템 구축에 필수적인 기반을 제공합니다. 박상돈 교수 연구실은 이처럼 인공지능의 신뢰성, 안전성, 그리고 실용성 향상을 위한 혁신적인 연구를 지속적으로 추진하고 있으며, 국내외 주요 학술대회에서 활발한 연구 성과를 발표하고 있습니다. 앞으로도 본 연구실은 인공지능 분야의 선도적 연구와 사회적 기여를 위해 끊임없이 노력할 것입니다.