머신러닝(ML)은 다양한 분야에서 널리 활용되고 있다. 또한 ML 기반 기법은 기술 분야의 보안 문제를 해결하기 위해 사용되어 왔으며, 다수의 연구는 보안 문제를 해결하는 데 있어 그 잠재력과 효과를 보여주고 있다. 수년 동안 악성 소프트웨어를 식별하기 위한 ML 방법은 여러 보안 영역에 걸쳐 개발되어 왔다. 그러나 최근 연구에서는 ML 모델이 작은 입력 교란에 취약하다는 점이 강조되었으며, 이를 적대적 예(adversarial examples)라 한다. 이러한 적대적 예는 모델의 예측을 크게 변화시킬 수 있다. 기존의 적대적 예에 관한 연구는 주로 영상 처리용 ML 모델에 초점을 두었으나, 점차 보안을 포함한 다른 응용 분야로 확장되었다. 흥미롭게도 적대적 공격은 악성코드 분류(malware classification)의 영역에서 특히 효과적인 것으로 입증되었다. 본 연구는 악성코드 분류의 투명성을 탐구하고 악성코드 분류기(malware classifiers)를 위한 설명 방법을 개발하고자 한다. 현재의 과제는 전통적인 영상 데이터셋과 비교해 악성코드가 지닌 복잡한 데이터 구조로 인해, 동질적 데이터에 대한 설명가능 AI(explainable AI)에서의 과제보다 더 복잡하다. 연구 결과 기존의 설명들이 이질적 데이터(heterogeneous data)를 해석하는 데에는 한계가 있음을 확인하였다. 본 연구에서 사용한 방법은, 분류 정확도(classification accuracy)가 높더라도 현재의 악성코드 탐지기가 오히려 잘못된 형태의 보안감을 제공할 수 있으며, 분류 정확도의 측정만으로 탐지기를 검증하기에는 충분하지 않다는 점을 보여주었다.

비식별화는 데이터셋에서 개인을 식별할 수 있는 요소들을 제거하여 데이터로부터 개인정보가 노출되지 않도록 하는 보안 방법이다. 제 4차 산업혁명 이후 데이터에 대한 수요와 공급이 기하급수적으로 증가하면서 데이터로 인한 개인 정보 노출 가능성이 현저히 높아졌는데, 이에 따라 데이터 활용을 제한하지 않으면서 보안 문제를 해결하기 위한 데이터 비식별화가 중요해 졌다. 특히 이미지 데이터는 원본 형태로 노출되었을 때 데이터 도용 및 악용 가능성이 높고, 사용자의 초상권을 침해할 수 있다. 그래서 이미지 데이터 비식별화는 지속적으로 연구되어 왔으며, 최근에는 데이터의 분포를 유지하면서 비식별화를 진행하는 생성 모델을 이용한 비식별화가 주목받고 있다. 본 논문에서는 이미지의 특정한 속성은 유지하면서 비식별화를 진행하는 생성 모델의 고도화를 목표로 하며, 비식별화 과정 중 모델 학습 과정에서 사용할 수 있는 두 가지의 선택 방법론을 제안한다. 그리고 두 가지의 선택 방법론을 적용함으로써 유지하고자 하는 target 속성이 기존 모델보다 더 잘 유지되며 생성 모델의 성능 또한 더 좋아지는 것을 실험으로 보인다.