연구 영역
기본 정보
논문·특허
과제
구성원
Article|
·
인용수 14
·2024
One-Spike SNN: Single-Spike Phase Coding With Base Manipulation for ANN-to-SNN Conversion Loss Minimization
Sangwoo Hwang, Jaeha Kung
IF 5.4 (2024) IEEE Transactions on Emerging Topics in Computing
초록

스파이킹 신경망(SNN)은 사건 기반(event-driven)이므로 기존 인공 신경망(ANN)보다 에너지 효율이 더 높다. 그러나 SNN은 이산적인 스파이크를 통해 데이터를 전달하기 때문에 학습에 그래디언트 방법을 적용하기가 어려워 정확도가 제한된다. SNN의 정확도를 ANN에 준하는 수준으로 유지하기 위해, 사전 학습된 ANNs를 SNN으로 변환(ANN-to-SNN 변환)한다. 이 변환 과정에서 ANN의 활성값을 SNN에서의 일련의 스파이크로 인코딩하는 일은 변환 손실을 최소화하는 데 중요하다. 본 연구에서는 SNN 계층 간 데이터 전송에 필요한 스파이크 수를 최소화하는 인코딩 방식으로 단일 스파이크 위상 코딩(single-spike phase coding)을 제안한다. 위상 코딩에서 단일 스파이크 근사로 인해 발생하는 인코딩 오차를 최소화하기 위해 임계값 이동(threshold shift)과 베이스 조작(base manipulation)을 제안한다. 제안된 변환 방법은 ANN에 대한 추가 재학습이나 아키텍처 제약 없이도, CIFAR 및 ImageNet 데이터셋을 사용하는 3개의 합성곱 신경망(CNN)에서 평균 0.58%의 추론 정확도 저하 없이 정확도를 유지함을 검증하였다. 또한 그래프 합성곱 신경망(GCN)도 SNN으로 성공적으로 변환되었으며, 평균 정확도 저하는 0.90%였다. 무엇보다도, 제안한 SNN의 에너지 효율은 ANN 기준선과 비교하여 4.6 향상된다.

*본 초록은 AI를 통해 원문을 번역한 내용입니다. 정확한 내용은 하기 원문에서 확인해주세요.

키워드
Spike (software development)Spiking neural networkComputer scienceMinificationCoding (social sciences)AlgorithmArtificial intelligenceArtificial neural networkStatisticsMathematics
타입
Article
IF / 인용수
5.4 / 14
게재 연도
2024