적대적 예시에 대한 심층신경망 보정 방법 및 장치
Method and apparatus of revising a deep neural network for adversarial examples
특허 요약
일 실시예에 따른 복수개의 뉴런들을 포함하는 심층신경망을 보정하는 장치는, 노이즈를 포함하는 데이터와 정상 데이터를 입력받도록 구성되는 입력부, 상기 복수개의 뉴런들 중 상기 노이즈를 포함하는 데이터에 의해 활성화되는 뉴런의 활성화 빈도수와 상기 정상 데이터에 의해 활성화되는 뉴런의 활성화 빈도수를 계산하도록 구성되는 계산부, 및 상기 노이즈를 포함하는 데이터에 의해 활성화되는 뉴런의 활성화 빈도수와 상기 정상 데이터에 의해 활성화되는 뉴런의 활성화 빈도수를 기반으로 상기 심층신경망을 보정하도록 구성되는 보정부를 포함할 수 있다.
청구항
번호청구항
1

복수개의 뉴런들을 포함하는 심층신경망을 보정하는 장치에 있어서,노이즈를 포함하는 데이터와 정상 데이터를 입력받도록 구성되는 입력부;상기 복수개의 뉴런들 중 상기 노이즈를 포함하는 데이터에 의해 활성화되는 뉴런의 활성화 빈도수와 상기 정상 데이터에 의해 활성화되는 뉴런의 활성화 빈도수를 계산하도록 구성되는 계산부; 및상기 노이즈를 포함하는 데이터에 의해 활성화되는 뉴런의 활성화 빈도수와 상기 정상 데이터에 의해 활성화되는 뉴런의 활성화 빈도수를 기반으로 상기 심층신경망을 보정하도록 구성되는 보정부를 포함하고,상기 보정부는,상기 노이즈를 포함하는 데이터에 의해 활성화되는 뉴런들 중 활성화 빈도수가 설정값 이상인 뉴런들의 집합인 제1 집합을 도출하고, 상기 정상 데이터에 의해 활성화되는 뉴런들 중 활성화 빈도수가 상기 설정값 이상인 뉴런들의 집합인 제2 집합을 도출하고, 상기 제1 집합과 상기 제2 집합의 차분 집합에 포함되는 뉴런들을 도출하고, 상기 차분 집합에 포함되는 뉴런들을 비활성화시키는 것을 특징으로 하는, 장치.

2

복수개의 뉴런들을 포함하는 심층신경망을 보정하는 장치에 있어서,노이즈를 포함하는 데이터와 정상 데이터를 입력받도록 구성되는 입력부;상기 복수개의 뉴런들 중 상기 노이즈를 포함하는 데이터에 의해 활성화되는 뉴런의 활성화 빈도수와 상기 정상 데이터에 의해 활성화되는 뉴런의 활성화 빈도수를 계산하도록 구성되는 계산부; 및상기 노이즈를 포함하는 데이터에 의해 활성화되는 뉴런의 활성화 빈도수와 상기 정상 데이터에 의해 활성화되는 뉴런의 활성화 빈도수를 기반으로 상기 심층신경망을 보정하도록 구성되는 보정부를 포함하고,상기 계산부는,상기 복수개의 뉴런들 중 출력값이 임계값보다 큰 뉴런을 활성화된 뉴런으로 판단하고, 상기 노이즈를 포함하는 데이터 및 상기 정상 데이터 각각에 대해 상기 임계값보다 출력값이 큰 뉴런의 활성화 빈도수를 각 데이터 별로 계산하는 것을 특징으로 하는, 장치.

3

삭제

4

제1항에 있어서,상기 보정부는,상기 차분 집합에 포함되는 뉴런들의 출력값을 0으로 설정하는 것을 특징으로 하는, 장치.

5

제1항에 있어서,상기 보정부는,상기 심층신경망의 레이블(label) 별로 상기 차분 집합에 포함되는 뉴런들을 비활성화시키는 것을 특징으로 하는, 장치.

6

제1항에 있어서,상기 보정부는,상기 심층신경망의 모든 레이블에 대해서 상기 차분 집합에 포함되는 뉴런들을 비활성화시키는 것을 특징으로 하는, 장치.

7

데이터 분류 장치에 있어서,분류 대상 데이터를 입력받도록 구성되는 입력부; 복수개의 뉴런들을 포함하는 심층신경망을 저장하도록 구성되는 저장부; 및상기 심층신경망을 기반으로 상기 분류 대상 데이터를 적어도 하나의 레이블로 분류하도록 구성되는 분류부를 포함하되,상기 심층신경망은,상기 복수개의 뉴런들 중 노이즈를 포함하는 데이터에 의해 활성화되는 뉴런의 활성화 빈도수와 정상 데이터에 의해 활성화되는 뉴런의 활성화 빈도수를 기반으로 보정되되, 상기 노이즈를 포함하는 데이터에 의해 활성화되는 뉴런들 중 활성화 빈도수가 설정값 이상인 뉴런들의 집합인 제1 집합을 도출하고, 상기 정상 데이터에 의해 활성화되는 뉴런들 중 활성화 빈도수가 상기 설정값 이상인 뉴런들의 집합인 제2 집합을 도출하고, 상기 제1 집합과 상기 제2 집합의 차분 집합에 포함되는 뉴런들을 도출하고, 상기 차분 집합에 포함되는 뉴런들이 비활성화되는 것을 특징으로 하는, 장치.

8

심층신경망 보정 장치가 복수개의 뉴런들을 포함하는 심층신경망을 보정하는 방법에 있어서,노이즈를 포함하는 데이터와 정상 데이터를 입력받는 단계;상기 복수개의 뉴런들 중 상기 노이즈를 포함하는 데이터에 의해 활성화되는 뉴런의 활성화 빈도수와 상기 정상 데이터에 의해 활성화되는 뉴런의 활성화 빈도수를 계산하는 단계; 및상기 노이즈를 포함하는 데이터에 의해 활성화되는 뉴런의 활성화 빈도수와 상기 정상 데이터에 의해 활성화되는 뉴런의 활성화 빈도수를 기반으로 상기 심층신경망을 보정하는 단계를 포함하고, 상기 심층신경망을 보정하는 단계는, 상기 노이즈를 포함하는 데이터에 의해 활성화되는 뉴런들 중 활성화 빈도수가 설정값 이상인 뉴런들의 집합인 제1 집합을 도출하는 단계;상기 정상 데이터에 의해 활성화되는 뉴런들 중 활성화 빈도수가 상기 설정값 이상인 뉴런들의 집합인 제2 집합을 도출하는 단계;상기 제2 집합과 상기 제1 집합의 차분 집합에 포함되는 뉴런들을 도출하는 단계; 및상기 차분 집합에 포함되는 뉴런들을 비활성화시키는 단계를 포함하는 것을 특징으로 하는, 방법.

9

제8항에 있어서,상기 입력받는 단계 이후에,상기 복수개의 뉴런들 중 출력값이 임계값보다 큰 뉴런을 활성화된 뉴런으로 판단하는 단계를 더 포함하는 것을 특징으로 하는, 방법.

10

삭제

11

제8항에 있어서,상기 비활성화시키는 단계는,상기 차분 집합에 포함되는 뉴런들의 출력값을 0으로 설정하는 단계를 포함하는 것을 특징으로 하는, 방법.

12

제8항에 있어서,상기 비활성화시키는 단계는,상기 심층신경망의 레이블(label) 별로 상기 차분 집합에 포함되는 뉴런들을 비활성화시키는 단계를 포함하는 것을 특징으로 하는, 방법.

13

제8항에 있어서,상기 비활성화시키는 단계는,상기 심층신경망의 모든 레이블에 대해서 상기 차분 집합에 포함되는 뉴런들을 비활성화시키는 단계를 포함하는 것을 특징으로 하는, 방법.

14

컴퓨터 판독 가능 기록매체에 저장되는 컴퓨터 프로그램으로서,상기 컴퓨터 프로그램은, 프로세서에 의해 실행되면,제8, 9, 11 내지 13항 중 어느 한 항에 따른 심층신경망 보정 방법을 상기 프로세서가 수행하도록 하기 위한 명령어를 포함하는, 컴퓨터 프로그램.

15

컴퓨터 프로그램이 저장되어 있는 컴퓨터 판독 가능 기록매체로서,상기 컴퓨터 프로그램은, 프로세서에 의해 실행되면,제8, 9, 11 내지 13항 중 어느 한 항에 따른 심층신경망 보정 방법을 상기 프로세서가 수행하도록 하기 위한 명령어를 포함하는, 컴퓨터 판독 가능 기록매체.