상세 설명

CIDA 연구실은 인공지능 시스템, 특히 딥러닝 및 스파이킹 신경망(Spiking Neural Network, SNN)의 신뢰성과 안전성을 확보하기 위한 형식적 검증(Formal Verification) 연구를 활발히 수행하고 있습니다. 최근 인공지능의 활용이 확대됨에 따라, 모델의 예측 결과에 대한 신뢰성, 적대적 공격에 대한 강건성, 그리고 시스템의 안전성 보장이 중요한 사회적 이슈로 대두되고 있습니다. 본 연구실은 오토마타 이론, 모델 체크, 논리적 사양 등 형식적 방법론을 접목하여 신경망 모델의 다양한 속성(안정성, 안전성, 적대적 강건성 등)을 체계적으로 검증하는 기술을 개발하고 있습니다. 특히, 스파이킹 신경망은 생물학적 뇌의 작동 원리를 모방하여 에너지 효율이 뛰어난 차세대 인공지능 모델로 주목받고 있으나, 기존의 인공신경망과 달리 시간적 정보 처리와 이벤트 기반 동작 특성으로 인해 검증이 매우 어렵습니다. 본 연구실은 시간 인코딩, 효율적 모델 체크, 대규모 신경망 검증을 위한 이론적 프레임워크 등 새로운 방법론을 제시하여, 기존 한계를 극복하고 실질적인 검증 성능을 달성하였습니다. 또한, 신경망의 구조 최적화, 프루닝, 적대적 공격 탐지 등 다양한 응용 연구도 병행하고 있습니다. 이러한 연구는 인공지능 시스템의 신뢰성 확보와 더불어, 자율주행, 의료, 금융 등 안전이 중요한 분야에서 인공지능의 실질적 도입을 촉진하는 데 기여하고 있습니다. 나아가, 형식적 검증과 인공지능의 융합을 통해 차세대 AI 시스템의 투명성, 해석 가능성, 안전성 보장 등 미래 지향적 연구를 선도하고 있습니다.

키워드

관련 이미지

관련 자료