비대칭 아핀 양자화 정수형 가중치 및 자유로운 배치 정규화와 양자화 기술을 포함하는 네트워크 처리를 위한 아날로그-믹스드-시그널 인-메모리-컴퓨팅 방법 및 시스템
Method and System for Analog-Mixed-Signal In-Memory Computing for Network Processing Including Asymmetric Affine Quantization Integer Weights and Flexible Batch Normalization and Quantization Techniques
특허 요약
비대칭 아핀 양자화 정수형 가중치 및 자유로운 배치 정규화와 양자화 기술을 포함하는 네트워크 처리를 위한 아날로그-믹스드-시그널 인-메모리-컴퓨팅 방법 및 시스템이 제시된다. 일 측면에 있어서, 본 발명에서 제안하는 비대칭 아핀 양자화 정수형 가중치 및 자유로운 배치 정규화와 양자화 기술을 포함하는 네트워크 처리를 위한 아날로그-믹스드-시그널 인-메모리-컴퓨팅 방법은 입력 버퍼를 거쳐 다중 워드라인 드라이버(multi-wordline driver)를 통해 동시 워드라인 입력을 수행하는 단계, 메모리 어레이를 통해 전류 기반 읽기 동작을 수행하는 단계, PC-ADC(PopCount-ADC)를 통해 출력 활성화 값이 모든 비균등 양자화 기법을 수행하도록 메모리 어레이의 각 열 또는 열의 묶음별로 아날로그 MAC 연산을 디지털 신호로 변환하는 단계, INPUT-PC(Input PopCount)를 통해 가중치의 정수 표현이 비대칭 범위를 갖는 수 표현 체계를 이용하여 입력 활성화 값 중 "1" 표현 또는 "0" 표현의 개수를 처리하는 단계, SHIFT/ADD를 통해 멀티-비트 합성 곱 및 덧셈 연산을 수행하는 단계 및 배치 정규화(batch normalization) 및 양자화(quantization) 처리 후 출력 신호를 출력하는 단계를 포함한다.
청구항
번호청구항
1

입력 버퍼를 거쳐 다중 워드라인 드라이버(multi-wordline driver)를 통해 동시 워드라인 입력을 수행하는 단계; 메모리 어레이를 통해 전류 기반 읽기 동작을 수행하는 단계; PC-ADC(PopCount-ADC)를 통해 출력 활성화 값이 모든 비균등 양자화 기법을 수행하도록 메모리 어레이의 각 열 또는 열의 묶음별로 아날로그 MAC 연산을 디지털 신호로 변환하는 단계; INPUT-PC(Input PopCount)를 통해 가중치의 정수 표현이 비대칭 범위를 갖는 수 표현 체계를 이용하여 입력 활성화 값 중 "1" 표현 또는 "0" 표현의 개수를 처리하는 단계; SHIFT/ADD를 통해 멀티-비트 합성 곱 및 덧셈 연산을 수행하는 단계; 및 배치 정규화(batch normalization) 및 양자화(quantization) 처리 후 출력 신호를 출력하는 단계를 포함하는 아날로그-믹스드-시그널 인-메모리-컴퓨팅 방법.

2

제1항에 있어서,상기 메모리 어레이를 통해 전류 기반 읽기 동작을 수행하는 단계는, 상기 메모리 어레이는 전류 기반 읽기를 수행하는 6T-SRAM, 8T-SRAM, RRAM, MRAM, Flash 메모리를 포함하는 메모리 어레이를 이용하고, 다중 워드라인 입력과 결합되어 각 열 별로 MAC 연산을 수행하며, 메모리가 단일 비트인 경우, 각 열별 아날로그 연산의 결과값은 워드라인 입력과 각 열에 저장된 메모리 값을 벡터 값으로 하는 두 벡터간의 내적 결과값을 의미하는 아날로그-믹스드-시그널 인-메모리-컴퓨팅 방법.

3

제1항에 있어서,상기 PC-ADC를 통해 출력 활성화 값이 모든 비균등 양자화 기법을 수행하도록 메모리 어레이의 각 열 또는 열의 묶음별로 아날로그 MAC 연산을 디지털 신호로 변환하는 단계는, 상기 메모리 어레이의 각 열별 아날로그 연산의 결과값 중 "0" 또는 "1" 표현의 개수를 카운트하고, 에너지 효율 및 면적 효율을 위해 상기 메모리 어레이의 각 열 상기 PC-ADC 공유가 가능한 아날로그-믹스드-시그널 인-메모리-컴퓨팅 방법.

4

제1항에 있어서,상기 INPUT-PC를 통해 가중치의 정수 표현이 비대칭 범위를 갖는 수 표현 체계를 이용하여 입력 활성화 값 중 "1" 표현 또는 "0" 표현의 개수를 처리하는 단계는, 상기 메모리 어레이 중 하나의 열의 저장값을 모두 "0" 또는 "1"로 처리함으로써, 입력 활성화 값 중 "1" 표현 또는 "0" 표현의 개수를 가중치의 정수 표현이 비대칭 범위를 갖는 수 표현 체계를 이용하여 MAC 연산 결과를 보정하는 아날로그-믹스드-시그널 인-메모리-컴퓨팅 방법.

5

제4항에 있어서,상기 INPUT-PC를 통해 가중치의 정수 표현이 비대칭 범위를 갖는 수 표현 체계를 이용하여 입력 활성화 값 중 "1" 표현 또는 "0" 표현의 개수를 처리하는 단계는, 가중치의 정수 표현이 비대칭 범위를 갖는 수 표현 체계를 이용하여 양 또는 음의 가중치 편중 값(NSK)으로 필터당 가중치 범위를 확장된 수 표현을 체계를 이용하는 아날로그-믹스드-시그널 인-메모리-컴퓨팅 방법.

6

입력 버퍼를 거쳐 동시 워드라인 입력이 가능한 다중 워드라인 드라이버(multi-wordline driver); 전류 기반 읽기 동작이 가능한 메모리 어레이; 출력 활성화 값이 모든 비균등 양자화 기법을 수행하도록 메모리 어레이의 각 열 또는 열의 묶음 별로 아날로그 MAC 연산을 디지털 신호로 변환하는 PC-ADC(PopCount-ADC); 가중치의 정수 표현이 비대칭 범위를 갖는 수 표현 체계를 이용하여 입력 활성화 값 중 "1" 표현 또는 "0" 표현의 개수를 처리하는 INPUT-PC(Input PopCount); 멀티-비트 합성 곱 및 덧셈 연산을 수행하기 위한 SHIFT/ADD; 배치 정규화(batch normalization) 및 양자화(quantization) 처리 블록; 및 출력 버퍼(Output Buffer) 를 포함하는 아날로그-믹스드-시그널 인-메모리-컴퓨팅 시스템.

7

제6항에 있어서,상기 메모리 어레이는, 전류 기반 읽기를 수행하는 6T-SRAM, 8T-SRAM, RRAM, MRAM, Flash 메모리를 포함하는 메모리 어레이를 이용하고, 다중 워드라인 입력과 결합되어 각 열 별로 MAC 연산을 수행하며, 메모리가 단일 비트인 경우, 각 열별 아날로그 연산의 결과값은 워드라인 입력과 각 열에 저장된 메모리 값을 벡터 값으로 하는 두 벡터간의 내적 결과값을 의미하는 아날로그-믹스드-시그널 인-메모리-컴퓨팅 시스템.

8

제6항에 있어서,상기 PC-ADC는, 상기 메모리 어레이의 각 열별 아날로그 연산의 결과값 중 "0" 또는 "1" 표현의 개수를 카운트하고, 에너지 효율 및 면적 효율을 위해 상기 메모리 어레이의 각 열 상기 PC-ADC 공유가 가능한 아날로그-믹스드-시그널 인-메모리-컴퓨팅 시스템.

9

제6항에 있어서,상기 INPUT-PC는, 상기 메모리 어레이 중 하나의 열의 저장값을 모두 "0" 또는 "1"로 처리함으로써, 입력 활성화 값 중 "1" 표현 또는 "0" 표현의 개수를 가중치의 정수 표현이 비대칭 범위를 갖는 수 표현 체계를 이용하여 MAC 연산 결과를 보정하는 아날로그-믹스드-시그널 인-메모리-컴퓨팅 시스템.

10

제9항에 있어서,상기 INPUT-PC는, 가중치의 정수 표현이 비대칭 범위를 갖는 수 표현 체계를 이용하여 양 또는 음의 가중치 편중 값(NSK)으로 필터당 가중치 범위를 확장된 수 표현을 체계를 이용하는아날로그-믹스드-시그널 인-메모리-컴퓨팅 시스템.