프로젝트 소개
본 과제는 사물인터넷(IoT) 기기와 언어 모델을 사용하는 서비스에서 발생할 수 있는 사이버 공격과 개인정보 유출을 막기 위한 지능형 보안 기술을 개발하는 연구임. 다양한 IoT 환경에서 공격을 빠르게 찾아내고, 불필요한 개인정보 수집을 줄이며, 언어 모델의 취약점을 분석·방어하는 기술을 종합적으로 연구하는 내용임.
연구 목표는 멀티플랫폼 및 크로스 어플리케이션 환경에서 공격 타입 분류 정확도 98% 이상, 데이터 과도 수집 앱 탐지 F1 Score 85% 이상, LLM 공격 방어율 95% 이상을 달성하고 전문 연구인력 15명을 양성하는 것임. 핵심 연구 내용은 머신러닝과 언어 모델 기반 IoT 공격탐지, 실시간 데이터 처리, 이벤트 로그 분석을 통한 Data Minimization 및 개인정보 처리 Transparency 보장, 프롬프트 주입과 LLM 탈옥 공격 방어, Multimodal LLM 대응 기술 개발임. 기대 효과는 언어 모델 기반 IoT 보안 원천기술 확보, 차세대 IoT의 보안·프라이버시 향상, 소프트웨어 및 라이브러리 공개, 국제 공동연구와 전문인력 양성을 통한 국가경쟁력 강화임.