적대적 공격에 강인한 악성코드·보안 모델 분석 연구

Adversarial-robust Malware Learning and Security Evaluation

연구 내용

악성코드 분류 모델을 대상으로 생성형·공격형 프레임워크의 취약성을 규명하고, 강건 학습 및 설명 기반 평가로 보안 신뢰성을 확보하는 연구

악성코드 분류에서 입력 교란이 예측을 회피하도록 유도하는 취약성에 주목하여, PDF 구조와 같은 이질적 데이터에 대한 적대적 예제를 생성하고 방어기의 한계를 분석합니다. 표적 분류기를 활용한 생성 과정과 특성 기반 선택을 통해 최소 교란 회피 변종을 구성합니다. 또한 이질적 데이터에서 기존 설명 방법의 해석 신뢰도가 낮을 수 있음을 확인하고, 분류 성능만으로는 방어 검증이 충분하지 않음을 평가합니다. 분산 환경에서는 Byzantine fault tolerance를 고려한 federated learning 강건화와 앙상블 기반 대조학습 모델을 결합합니다.

관련 프로젝트

4건

연구 흐름

초기에는 PDF의 복잡한 데이터 구조를 고려하여, 생성형 모델을 변형하고 특성 선택을 포함한 방식으로 악성 PDF를 회피성 변형으로 빠르게 생성하는 연구를 수행했습니다. 이후에는 악성코드 분류기의 분류 정확도와 설명의 일치 여부를 이질적 데이터 관점에서 점검하며, 오탐·과신을 줄이기 위한 해석 방법의 제약을 정리했습니다. 최근에는 Byzantine-Robust federated learning에서 대조학습 앙상블을 통해 분산 학습의 견고성을 확보하는 방향으로 확장하고 있습니다. 더불어 위험 요소에도 강인한 회복탄력성 및 적대적 공격 대응 기술, 자동화된 취약점 탐지 및 안전 코드 생성 과제를 연계해 실사용 보안 공정으로 전개하려는 흐름을 보입니다.

활용 가능성

활용 가능성은 알앤디써클 특화 AI 에이전트가 생성한 내용으로, 실제 연구 가능 여부는 연구실과의 논의가 필요합니다.

악성 PDF 회피 변종 생성 경로 분석
악성코드 분류기 강건성 벤치마크
적대적 예제 기반 방어 평가 프로토콜
이질적 데이터 설명 신뢰도 점검 도구
Federated learning 악성 노드 대응
회복탄력성 기반 보안 운영 정책
취약점 탐지 및 코드 생성 자동화
안전한 ML 배포를 위한 검증 절차
분산 환경 보안 위협 모델링
보안 교육용 공격·방어 시나리오