뇌기능 모사(SNN)를 위한 스커미온 기반 멀티비트(16-레벨 이상) 스핀 시냅스소자 설계 및 회로 모델 개발
○ 스커미온 생성/소멸 및 이동을 위한 채널 재료 탐색 및 설계 최적화
○ 스커미온 sensing을 위한 고 thermal stability Δ >65 (10-year retention time), TMR > 100% 이상 p-MTJ (magnetic tunneling junction) spin-valve 구조 설계
○ 뇌 모방 스커미온 기반 멀티비트 (16레벨 이상) 2-터미널 스핀 시냅스 소자 구조 최종 설계 및 공정 process 설계(@채널 사이즈 500 nm X 500 nm 이하)
○ 스커미온 기반 멀티비트 (16레벨 이상) 2-터미널 스핀 시냅스 소자를 활용하여 최적화된 MAC 연산 가속기를 구현하고, 이를 기반으로 SNN 아키텍처 개발
○ 다양한 인공신경망 구조에 활용이 가능한 입출력 뉴런 회로 개발
○ 측정에 기반한 시냅스 소자 회로모델 개발 및 구동회로 설계
○ 디바이스 비 이상성 보완 알고리즘 및 회로기술 개발
○ 제안된 스파이킹 신경망 모델 기반 MNIST 데이터 이미지 인식 정확도 90% 이상
○ 머신러닝 에뮬레이션을 통한 멀티레벨 스커미온 기반 인공신경망 모델 성능 비교 분석 및 평가
뇌기능 모사(SNN)를 위한 스커미온 기반 멀티비트(16-레벨 이상) 스핀 시냅스소자 설계 및 회로 모델 개발
○ 스커미온 생성/소멸 및 이동을 위한 채널 재료 탐색 및 설계 최적화
○ 스커미온 sensing을 위한 고 thermal stability Δ >65 (10-year retention time), TMR > 100% 이상 p-MTJ (magnetic tunneling junction) spin-valve 구조 설계
○ 뇌 모방 스커미온 기반 멀티비트 (16레벨 이상) 2-터미널 스핀 시냅스 소자 구조 최종 설계 및 공정 process 설계(@채널 사이즈 500 nm X 500 nm 이하)
○ 스커미온 기반 멀티비트 (16레벨 이상) 2-터미널 스핀 시냅스 소자를 활용하여 최적화된 MAC 연산 가속기를 구현하고, 이를 기반으로 SNN 아키텍처 개발
○ 다양한 인공신경망 구조에 활용이 가능한 입출력 뉴런 회로 개발
○ 측정에 기반한 시냅스 소자 회로모델 개발 및 구동회로 설계
○ 디바이스 비 이상성 보완 알고리즘 및 회로기술 개발
○ 제안된 스파이킹 신경망 모델 기반 MNIST 데이터 이미지 인식 정확도 90% 이상
○ 머신러닝 에뮬레이션을 통한 멀티레벨 스커미온 기반 인공신경망 모델 성능 비교 분석 및 평가
뇌기능 모사(SNN)를 위한 스커미온 기반 멀티비트(16-레벨 이상) 스핀 시냅스소자 설계 및 회로 모델 개발
○ 스커미온 생성/소멸 및 이동을 위한 채널 재료 탐색 및 설계 최적화
○ 스커미온 sensing을 위한 고 thermal stability Δ >65 (10-year retention time), TMR > 100% 이상 p-MTJ (magnetic tunneling junction) spin-valve 구조 설계
○ 뇌 모방 스커미온 기반 멀티비트 (16레벨 이상) 2-터미널 스핀 시냅스 소자 구조 최종 설계 및 공정 process 설계(@채널 사이즈 500 nm X 500 nm 이하)
○ 스커미온 기반 멀티비트 (16레벨 이상) 2-터미널 스핀 시냅스 소자를 활용하여 최적화된 MAC 연산 가속기를 구현하고, 이를 기반으로 SNN 아키텍처 개발
○ 다양한 인공신경망 구조에 활용이 가능한 입출력 뉴런 회로 개발
○ 측정에 기반한 시냅스 소자 회로모델 개발 및 구동회로 설계
○ 디바이스 비 이상성 보완 알고리즘 및 회로기술 개발
○ 제안된 스파이킹 신경망 모델 기반 MNIST 데이터 이미지 인식 정확도 90% 이상
○ 머신러닝 에뮬레이션을 통한 멀티레벨 스커미온 기반 인공신경망 모델 성능 비교 분석 및 평가
본 연구과제는 확률적 메모리 소자(Stochastic Memory Element: SME) 어레이를 사용한 인메모리 컴퓨팅 기반의 문제해결 시스템의 구현을 목표로 한다. 전체 연구를 크게 3단계로 나누어, 1단계의 소규모 SME 어레이 기반의 문제해결 시스템에서 시작하여, 최종적으로는 대규모 SME 어레이를 통한 스파이킹 신경망(Spiking Neural Network: SNN)을 구현하려고 한다. 각 단계별 주된 연구내용을 요약하면 다음과 같다.
1단계: 소규모 SME 어레이와 베이즈 네트워크 기반의 확률 추론 엔진(Probability inferene engine) 구현
- 인간의 뇌세포, 뉴런이 주변 뉴런과 정보를 펄스 형태로 교환한다는 사실에 기반하여, SME를 입력 신호의 세기에 따라서 출력 펄스의 빈도수를 조절하는 편향된 유사 난수 발생기(Biased Random Number Generator)로 활용하고, 네트워크를 구성하여 특정 사건의 발생 확률을 추론하는 시스템을 구현한다.
2단계: 중규모 SME 어레이와 Ising 스핀 모델 기반의 비결정 다항문제(NP-problem) 해결시스템 구현
- 비결정 다항 문제는 폰노이만 컴퓨팅 시스템을 통해서 해결하기 어려운 문제였으나, 확률적인 상태 변화를 갖는 메모리 어레이, 특히 Ising 스핀 모델 기반의 네트워크를 통해서 효율적으로 전역 최소값(Global minimum)을 갖는 해를 찾을 수 있다. 따라서, SME 어레이 크기를 14x14 정도로 키우고, 다양한 비결정 다항문제를 해결할 수 있는 시스템의 구현이 2단계의 목표이다.
3단계: 대규모 SME 어레이를 통한 스파이킹 신경망의 구현
- 1단계와 2단계의 연구 과정 및 결과를 토대로 대규모 SME 어레이를 통한 스파이킹 신경망을 구현하려고 한다. 먼저, 학습이 필요하지 않은 순방향 신경망의 구현을 통해 엣지 디바이스에서 추론 목적으로 활용이 가능한 스파이킹 신경망을 구현하고, 이후에 온라인 학습이 가능한 알고리즘을 추가하여 3+ 단계를 진행하려고 한다.
- 본 과제에서 최종 목표는 인메모리 컴퓨팅, 특히 SME 어레이를 활용한 스파이킹 신경망의 구현이지만,신경망 구현에 사용되는 메모리 셀의 개수가 많고, 따라서 설계에 있어 주의해야 할 사항 및 시행착오가 많을 것이라 예상되므로, 소규모 어레이로부터 시작해서 대규모 어레이에 이르기까지 순차적이고 점진적인 연구를 진행하려고 함.
- 1단계: 소규모 SME 어레이를 활용한 추론 엔진 구현
추론 과정을 기존의 컴퓨팅 시스템을 통해서 구현하기 위해서는, 최종 결과인 특정 사건에 대한 확률을 계산하기 위해 많은 양의 부동소수점 연산(floting point operation)이 필요.
그러나, 이러한 특정 사건에 대한 확률을 추론하는 시스템은 뉴런을 모사한 SME의 확률적인 펄스 생성과 베이즈 네트워크(Bayesian Network)를 통해서 간단하게 구현하고자 함.
- 2단계: 중규모 SME 어레이를 활용한 비결정 다항문제 해결시스템 구현.
2단계에서는 1단계에서 얻은 경험을 바탕으로, 좀 더 많은 개수의 SME를 사용한 어레이를 구현하고, 이를 활용하여 비결정 다항문제(NP-problem) 해결시스템을 구현하고자 함.
해당 시스템의 기반이 되는 컴퓨팅 모델로는 그림 1의 중간에 있는 Ising 스핀 모델을 사용하려고 하며, Ising 스핀 모델에서 각 스핀(단일 비트 메모리)은 인접 스핀과 주변 회로를 통해 정보를 주고받으며 저장된 정보를 업데이트 할 수 있고, 따라서 1단계에 비해 인메모리 컴퓨팅에 좀 더 가까운 어레이 구성을 보여줄 수 있음.
- 3,3+단계: 대규모 SME 어레이를 활용한 스파이킹 신경망 구현
3단계에서는 2단계에서 얻은 중간 규모의 어레이 구현 경험을 바탕으로, 대규모 SME 어레이를 구성하고, 이를 통해 본 과제의 궁극적인 목표인 스파이킹 신경망의 구현을 연구하고자 함.
추가적인 학습(training)을 필요로 하는 전통적인 스파이킹 신경망의 연구에 앞서, 먼저 엣지 디바이스에서 추론 목적으로만 활용이 가능한 순방향 신경망 (Feed-Forward Neural-Network: FFNN)의 구현을 시도해 볼 계획임.
신경망은 입·출력 뉴런과 메모리를 담당하는 시냅스(Synapse)로 이루어지는데, 세 가지 구성성분 모두를 SME를 활용하여 구현할 수 있다. 따라서 시스템 구현 측면에서 SME 어레이에 약간의 로직만을 추가해서 순방향 신경망을 효율적으로 구현할 수 있을 것으로 판단함.
