소프트맥스 교차 엔트로피 손실함수는 다양한 과제에 대한 딥 모델을 학습하기 위해 널리 사용되어 왔다. 본 연구에서는 시각 분류를 위한 딥 신경망에서 사용할 가우시안 혼합(GM) 손실함수를 제안한다. 소프트맥스 교차 엔트로피 손실과 달리, 본 방법은 딥 특징 공간을 가우시안 혼합 분포(Gaussian Mixture)로 명시적으로 형성한다. 분류 마진(classification margin)과 가능도 정규화(likelihood regularization)를 통해 GM 손실은 높은 분류 성능과 특징 분포의 정확한 모델링을 모두 가능하게 한다. 또한 GM 손실은 청정(clean) 예시와 적대(adversarial) 예시의 특징 분포 간 불일치(discrepancy)를 기반으로 적대적 예시를 구별하는 데 용이하게 사용할 수 있다. 더 나아가, 이론적 분석 결과 GM 손실을 사용하면 대칭적 특징 공간(symmetric feature space)을 달성할 수 있으며, 이는 모델이 적대적 공격에 대해 강건하게 동작하도록 한다. 제안된 모델은 추가적인 학습 파라미터를 도입하지 않으면서도 쉽고 효율적으로 구현할 수 있다. 광범위한 평가는 GM 손실을 사용하는 방법이 영상 분류, 얼굴 인식, 탐지 및 다양한 공격으로 생성된 적대적 예시의 인식에서도 유리한 성능을 보인다는 점을 입증한다.
*본 초록은 AI를 통해 원문을 번역한 내용입니다. 정확한 내용은 하기 원문에서 확인해주세요.