단일 스파이크 위상 코딩을 이용한 신경망 변환 방법
Method for converting neural network using single-spike phase coding
특허 요약
본 발명은 위상 코딩을 이용하여 아날로그 신경망(Analog Neural Network; ANN)을 스파이킹 신경망(Spiking Neural Network; SNN)으로 변환하는 방법에 관한 것이다. 본 발명의 일 실시예에 따른 신경망 변환 방법은 아날로그 신경망(Analog Neural Network; ANN)을 스파이킹 신경망(Spiking Neural Network; SNN)으로 변환하는 방법에 있어서, 상기 스파이킹 신경망의 뉴런이 복수의 타임 스탭(timestep) 중 어느 한 스탭에서 처음 발화(spiking)하면 나머지 스탭에서 상기 뉴런에 대한 위상 코딩(phase coding) 연산을 중단하는 단계를 포함하는 것을 특징으로 한다.
청구항
번호청구항
1

아날로그 신경망(Analog Neural Network; ANN)을 스파이킹 신경망(Spiking Neural Network; SNN)으로 변환하는 방법에 있어서,상기 스파이킹 신경망의 뉴런이 복수의 타임 스탭(timestep) 중 어느 한 스탭에서 처음 발화(spiking)하면 나머지 스탭에서 상기 뉴런에 대한 위상 코딩(phase coding) 연산을 중단하는 단계를 포함하는신경망 변환 방법.

2

제1항에 있어서,상기 뉴런은 이전 뉴런에서 상기 복수의 타임 스탭별로 제공되는 스파이크에 기초하여 상기 어느 한 스탭에서 처음 발화하는신경망 변환 방법.

3

제1항에 있어서,상기 뉴런은 아래 [수학식 1]에 따라 발화하여 스파이크를 생성하는[수학식 1](여기서, vj는 상기 뉴런의 막전위(membrane potential), j는 상기 뉴런의 인덱스, i는 이전 뉴런의 인덱스, Npre는 상기 이전 뉴런의 수, t는 스탭, 는 누설(leak) 파라미터, Q는 위상의 밑수(base of phase), wij는 시냅스 가중치, si는 상기 스파이크, 는 임계치)신경망 변환 방법.

4

제1항에 있어서,상기 발화에 대응하는 위상은 상기 아날로그 신경망의 활성(activation)에 대응하는 실 위상을 상기 복수의 타임 스탭에 설정된 각 위상 중 어느 한 위상으로 내림 근사한 것인신경망 변환 방법.

5

제1항에 있어서,상기 발화에 대응하는 위상은 아래 [수학식 2]에 따라 결정되는[수학식 2](여기서, x는 상기 아날로그 신경망의 활성(), 는 상기 발화에 대응하는 위상, Q는 위상의 밑수, T는 상기 타임 스탭의 수)신경망 변환 방법.

6

제1항에 있어서,상기 뉴런의 기존 임계치를 하향 조정하여 발화 시점을 앞당기는 단계를 더 포함하는신경망 변환 방법.

7

제1항에 있어서,상기 뉴런이 두 연속된 위상의 중앙에서 발화하도록 상기 뉴런의 임계치를 조정하는 단계를 더 포함하는신경망 변환 방법.

8

제7항에 있어서,상기 뉴런의 신규 임계치를 하기 [수학식 3]에 따라 설정하는 단계를 더 포함하는[수학식 3] (여기서, 는 상기 뉴런의 기존 임계치, 는 상기 뉴런의 신규 임계치, Q는 위상의 밑수)신경망 변환 방법.

9

제1항에 있어서,상기 발화에 대응하는 위상은 아래 [수학식 4]에 따라 결정되는[수학식 4](여기서, x는 상기 아날로그 신경망의 활성(), 는 상기 발화에 대응하는 위상, Q는 위상의 밑수, T는 상기 타임 스탭의 수)신경망 변환 방법.

10

제1항에 있어서,상기 위상의 밑수는, 상기 아날로그 신경망의 활성에 대응하는 위상과 상기 활성 간의 차이를 모든 활성에 대해 합산한 오차가 최소가 되는 값으로 결정되는신경망 변환 방법.

11

제1항에 있어서,상기 위상의 밑수는 아래 [수학식 5]로 정의되는 오차(MAPE; Mean Absolute Percentage Error)가 최소가 되는 값으로 결정되는[수학식 5](여기서, x는 상기 활성(), 는 상기 활성에 대응하는 위상, f(x)는 상기 활성의 분포 함수)신경망 변환 방법.

12

제1항에 있어서,상기 복수의 타임 스탭에 대응하는 각 위상의 밑수는 2보다 작게 설정되는신경망 변환 방법.