특허 개요
본 특허는 여러 기기가 원본 데이터를 공유하지 않고 인공지능을 함께 학습하면서, 조작된 결과를 걸러내는 적대적 공격 대응 분산 학습 시스템입니다. 각 에지 디바이스는 공유 글로벌 모델과 이전 학습 모델의 차이를 L2 놈 기준으로 제한하는 클립된 초기화(clipped initialization)로 기기별 초기값을 만들고 로컬 학습을 수행합니다. 중앙 서버는 글로벌 데이터셋에서 모델별 글로벌 유효성 검사 손실을 평가하는 역집계(reverse aggregation)로 적대적 모델을 제거한 뒤, 성능 평가를 통과한 모델만 평균하여 글로벌 모델을 배포합니다.
- 핵심 기능
에지 디바이스는 공유 글로벌 모델과 이전 에지 학습 모델의 차이를 클리핑해 초기값을 만들고, 최대 로컬 에포크까지 학습한 모델을 중앙 서버에 전송합니다. 중앙 서버는 글로벌 데이터셋으로 수신 모델을 평가해 유효성 검사 손실이 줄어들 때까지 적대적 모델을 제거하고, 남은 모델만 집계하여 다음 글로벌 모델로 배포합니다.
- 차별 강점
종래 연합 학습은 전송된 모델을 집계하는 과정에서 데이터 중독 또는 모델 중독으로 조작된 업데이트가 반영될 수 있고, 모든 기기에 동일한 초기값을 제공할 수 있습니다. 본 기술은 에지별 클립된 초기화로 로컬 데이터의 이질성을 반영하고, 글로벌 데이터셋 기반 모델 제거·선별 집계로 손상된 업데이트의 영향을 억제합니다.
- 활용 범위
기술·연구 측면에서는 모바일·IoT 에지 환경의 연합 학습, 분산 AI 서비스, 보안·프라이버시 보존형 기계학습, 적대적 공격 대응 AI 모델 운영에 활용 가능하며, 이질적 로컬 데이터를 다루는 협업 학습 구조로 확장할 수 있습니다. 사업 측면에서는 다수 단말이 참여하는 AI 서비스, IoT 기반 분석 플랫폼, 개인정보 보호형 AI 운영 솔루션 및 분산 모델 관리 체계로 확장할 수 있습니다.
연구 개발 단계
클립된 초기화로 에지별 초기값을 구성하고, 글로벌 유효성 검사 손실을 기준으로 적대적 모델을 제거한 뒤 통과 모델만 평균하는 처리 절차가 제시되었습니다. 구체적 데이터셋, 공격 시나리오별 정확도·수렴속도·통신비용 비교 실험 수치는 제시되지 않았습니다.
- 학습 참여자: 양성 에지 디바이스와 손상된 에지 디바이스를 포함하는 분산 학습 환경
- 모델 선별 기준: 중앙 서버 글로벌 데이터셋의 글로벌 유효성 검사 손실
- 학습 조건: L2 놈 기반 클리핑, 학습률 γ, 최대 로컬 에포크 기준
현재 성과
글로벌 유효성 검사 손실이 줄어들 때까지 적대적 기계학습 모델을 제거하고, 성능 평가를 통과한 모델만 집계하도록 구성됩니다. 데이터 중독 또는 모델 중독으로 성능과 수렴 속도를 저하시킬 수 있는 업데이트의 반영을 줄이는 것이 목적입니다. 정량 성능은 대상 데이터셋과 공격 조건을 포함한 PoC에서 확인이 필요합니다.
중앙 서버가 보유한 글로벌 데이터셋으로 각 에지 학습 모델의 글로벌 유효성 검사 손실을 평가하고, 손실 감소 기준에 따라 모델을 제거하도록 설계되었습니다. 잔여 모델 중 성능 평가를 통과한 모델만 평균하여 글로벌 모델을 도출하는 절차가 명세서에 제시됩니다. 구체적인 벤치마크 및 공격 시나리오 기반 비교 결과는 기재되지 않았습니다.
기존 방식의 동일 초기값 기반 에지 학습과 전체 수신 모델 집계는 기기별 데이터 특성 및 조작 모델 반영 문제를 가질 수 있습니다. 본 기술은 공유 글로벌 모델과 이전 에지 모델의 차이를 클리핑해 에지별 초기값을 만들고, 글로벌 데이터셋 평가 기반 역집계로 선별 모델만 평균합니다. 맞춤형 초기화와 적대적 모델 제거를 하나의 분산 학습 절차로 결합한 점이 차별 요소입니다.
상용화까지 남은 부분
구체적 데이터셋과 공격 시나리오별 정확도, 수렴속도, 통신비용 비교 실증
다양한 에지 디바이스 구성과 대규모 참여 환경에서의 성능 및 확장성 검증
공격 강도와 데이터 이질성 조건별 재현성, 장기 운영 성능 검증
기술 이전 형태·도입 과정
도입은 이렇게 진행됩니다.
검토 미팅
귀사 상황·데이터 구조 기준으로 적합성을 논의합니다. 자료 검토만으로 끝나도 됩니다.
PoC 공동 검증
연구팀 동행 하에 귀사 데이터 기준 재학습·성능을 확인합니다.
라이센싱 계약
PoC 결과를 기반으로 희망 형태(실시권·공동연구 등)를 협의합니다.
기술지도·후속
도입 초기 기술지도, 필요 시 후속 공동연구·정부과제 연계까지 진행합니다.
특허 정보
적대적 공격에 강인한 맞춤형 분산 학습 방법 및 시스템
10-2022-0065524 (2022.05.27)
1025220530000 (2023.04.11)
강준혁 (한국과학기술원), 이영준 (한국과학기술원), 박상우 (한국과학기술원)
한국과학기술원
한국과학기술원