본 연구는 “AI 보안을 위한 DNN 모델의 저작권 보호 및 인증 기술 개발”을 목표로 다음과 같이 세부적인 연구를 수행하고자 한다. 1) 첫 번째로 DNN 모델의 잠재적 공격 모델과 보안/인증 위협 모델을 분석한다. 이를 위하여 DNN 워터마킹∙해싱의 4가지 성능 평가인 Functionality-Preserving, Robust, Undetectable, Non-trivial Ownership을 확률적으로 모델링하고, 3가지 잠재적 공격인 Model fine-tuning, Model Pruning, Watermark Overwriting의 공격 시나리오를 설계한다. 또한 Differential Entropy 기반으로 DNN 모델의 보안성을 정량적으로 측정하는 방법을 연구한다. 2) 두 번째로 4가지 성능평가와 3가지 공격 시나리오에 대응할 수 있는 DNN 모델의 저작권 보호위한 White-Box 및 Black-Box DeepMark을 개발하고, 이를 원 DNN 모델에 캡슐화한다. White-Box DeepMark에서는 레이어별 가중치 벡터들의 주파수 변환 계수 및 히스토그램 쉬프팅 변환을 이용하여 비가역성 및 가역성 워터마크를 만족하고자 한다. Black-Box DeepMark에서는 질의 과정 예측값과 출력 활성화 함수를 이용하여 DNN 모델 분류 예측에 대한 워터마크 은닉하는 방법을 연구한다. 3) 세 번째로 고신뢰 DNN 모델의 인증을 위한 Hash-Net과 Crypto-Net으로 구성된 DeepAuthen을 개발한다. 이를 위하여 DNN 모델의 파리미터들에 대한 다층스케일 웨이블릿 변환 계수의 Heat Kernel Signature 히스토그램 벡터를 이용하여 모델 공간성 및 유일성을 만족하는 Hash-Net을 개발한다. 그리고 DNN 모델의 아키텍처, 파라미터, 학습데이터들을 완전 동형 암호화하는 Crypto-Net을 개발한다.

본 연구는 “AI 보안을 위한 DNN 모델의 저작권 보호 및 인증 기술 개발”을 목표로 다음과 같이 세부적인 연구를 수행하고자 한다. 1) 첫 번째로 DNN 모델의 잠재적 공격 모델과 보안/인증 위협 모델을 분석한다. 이를 위하여 DNN 워터마킹∙해싱의 4가지 성능 평가인 Functionality-Preserving, Robust, Undetectable, Non-trivial Ownership을 확률적으로 모델링하고, 3가지 잠재적 공격인 Model fine-tuning, Model Pruning, Watermark Overwriting의 공격 시나리오를 설계한다. 또한 Differential Entropy 기반으로 DNN 모델의 보안성을 정량적으로 측정하는 방법을 연구한다. 2) 두 번째로 4가지 성능평가와 3가지 공격 시나리오에 대응할 수 있는 DNN 모델의 저작권 보호위한 White-Box 및 Black-Box DeepMark을 개발하고, 이를 원 DNN 모델에 캡슐화한다. White-Box DeepMark에서는 레이어별 가중치 벡터들의 주파수 변환 계수 및 히스토그램 쉬프팅 변환을 이용하여 비가역성 및 가역성 워터마크를 만족하고자 한다. Black-Box DeepMark에서는 질의 과정 예측값과 출력 활성화 함수를 이용하여 DNN 모델 분류 예측에 대한 워터마크 은닉하는 방법을 연구한다. 3) 세 번째로 고신뢰 DNN 모델의 인증을 위한 Hash-Net과 Crypto-Net으로 구성된 DeepAuthen을 개발한다. 이를 위하여 DNN 모델의 파리미터들에 대한 다층스케일 웨이블릿 변환 계수의 Heat Kernel Signature 히스토그램 벡터를 이용하여 모델 공간성 및 유일성을 만족하는 Hash-Net을 개발한다. 그리고 DNN 모델의 아키텍처, 파라미터, 학습데이터들을 완전 동형 암호화하는 Crypto-Net을 개발한다.