생성 AI 모델이 민감한 데이터에 직접 접근하지 않고도 멀티모달 데이터를 생성할 수 있는 기술을 개발하는 것을 목표함.
데이터 비접근 기술
차등정보보호
2
2024년 12월-2028년 12월
|1,987,500,000원
위험적 요소에도 강인하며 유연한 회복 탄력성을 가지는 인공지능 기술 개발
o 기존의 단일 모달리티 / 단일 위험 요소에 대한 인공지능 모델의 강건성 보장 기술을 넘어 멀티 모달리티 / 복합 위험 요소에 대한 인공지능 모델의 회복탄력성 강화가 가능하도록 하는 위험 요소 탐지-해석-복구 통합 프레임워크 개발 - 이미지-텍스트 멀티모달 모델에 대하여 주요 위험 요소: 1) 탈옥 (jailbreaking), 2) 백도어 공격 (bac...
회복탄력성
강건성
적대적 공격
비젼-언어모델
거대언어모델
3
2024년 12월-2028년 12월
|1,987,500,000원
위험적 요소에도 강인하며 유연한 회복 탄력성을 가지는 인공지능 기술 개발
o 기존의 단일 모달리티 / 단일 위험 요소에 대한 인공지능 모델의 강건성 보장 기술을 넘어 멀티 모달리티 / 복합 위험 요소에 대한 인공지능 모델의 회복탄력성 강화가 가능하도록 하는 위험 요소 탐지-해석-복구 통합 프레임워크 개발 - 이미지-텍스트 멀티모달 모델에 대하여 주요 위험 요소: 1) 탈옥 (jailbreaking), 2) 백도어 공격 (bac...
회복탄력성
강건성
적대적 공격
비젼-언어모델
거대언어모델
4
2024년 6월-2026년 12월
|1,385,775,000원
AI 기반 자동화된 취약점 탐지 및 안전한 코드 생성
SW 취약점 공격은 그 수와 속도가 나날이 증가하고 있으며, 특히 취약점을 이용한 공급망 해킹의 피해 규모도 증가하는 추세임. 또한, 근미래에 예상되는 AI를 이용한 사이버공격에 신속하고 효과적으로 대응하기 위해서는 취약점 분석 및 패치 과정의 자동화 기술이 필수적임. 따라서, 본 과제에서는 다양한 도메인의 취약점 유형에 대해 가용한 멀티모달 데이터를 적극...
취약점 탐지 및 분석
안전한 코드 생성
생성형 인공지능
AI 기밀성 보장
완전 자동화
5
2024년 6월-2026년 12월
|858,000,000원
AI 기반 자동화된 취약점 탐지 및 안전한 코드 생성
SW 취약점 공격은 그 수와 속도가 나날이 증가하고 있으며, 특히 취약점을 이용한 공급망 해킹의 피해 규모도 증가하는 추세임. 또한, 근미래에 예상되는 AI를 이용한 사이버공격에 신속하고 효과적으로 대응하기 위해서는 취약점 분석 및 패치 과정의 자동화 기술이 필수적임. 따라서, 본 과제에서는 다양한 도메인의 취약점 유형에 대해 가용한 멀티모달 데이터를 적극...