뉴럴 네트워크 연산 장치 및 방법
APPARATUS AND METHOD FOR NEURAL NETWORK OPERATION
특허 요약
뉴럴 네트워크 연산 장치 및 방법이 개시된다. 일 실시예에 따른 뉴럴 네트워크 연산 장치는, 뉴럴 네트워크 연산을 수행하기 위한 데이터를 저장하는 내부 스토리지(internal storage)와, 상기 데이터 및 메인 데이터의 덧셈을 수행하는 덧셈기와, 리셋 신호(reset signal)에 기초하여 상기 덧셈기의 출력 결과 및 상기 메인 데이터 중에서 하나를 출력하는 제1 멀티플렉서(multiplexer)와, 페이즈 신호(phase signal)에 기초하여 상기 데이터의 양자화 결과 및 상기 메인 데이터 중에서 하나를 출력하는 제2 멀티플렉서와, 상기 리셋 신호 및 상기 페이즈 신호를 생성함으로써 상기 제1 멀티플렉서 및 상기 제2 멀티플렉서를 제어하는 컨트롤러를 포함한다.
청구항
번호청구항
1

뉴럴 네트워크 연산을 수행하기 위한 데이터를 저장하는 내부 스토리지(internal storage);상기 데이터 및 메인 데이터의 덧셈을 수행하는 덧셈기;리셋 신호(reset signal)에 기초하여 상기 덧셈기의 출력 결과 및 상기 메인 데이터 중에서 하나를 출력하는 제1 멀티플렉서(multiplexer);페이즈 신호(phase signal)에 기초하여 상기 데이터의 양자화 결과 및 상기 메인 데이터 중에서 하나를 출력하는 제2 멀티플렉서;상기 리셋 신호 및 상기 페이즈 신호를 생성함으로써 상기 제1 멀티플렉서 및 상기 제2 멀티플렉서를 제어하는 컨트롤러; 및양자화 팩터(quantization factor)에 기초하여 상기 데이터를 양자화함으로써 상기 양자화 결과를 생성하는 양자화기를 포함하는 뉴럴 네트워크 연산 장치.

2

제1항에 있어서,상기 내부 스토리지로부터 상기 데이터를 수신하여 저장하는 제1 레지스터;상기 메인 데이터를 수신하여 저장하는 제2 레지스터; 및상기 제1 멀티플렉서의 출력을 저장하는 제3 레지스터를 포함하는 뉴럴 네트워크 연산 장치.

3

삭제

4

제1항에 있어서,상기 내부 스토리지는,상기 데이터의 출력 텐서(output tensor)의 위치를 나타내는 채널 인덱스에 기초하여 상기 데이터를 저장하는,뉴럴 네트워크 연산 장치.

5

제1항에 있어서,상기 컨트롤러는,상기 메인 데이터가 유효한지 여부에 기초하여 상기 내부 스토리지를 업데이트하는,뉴럴 네트워크 연산 장치.

6

제1항에 있어서,상기 페이즈 신호는,상기 뉴럴 네트워크 연산 장치가 연산을 수행하지 않도록 하기 위한 제1 페이즈 신호;상기 메인 데이터를 출력하고, 상기 내부 스토리지를 업데이트하기 위한 제2 페이즈 신호; 및상기 양자화 결과를 출력하기 위한 제3 페이즈 신호를 포함하는 뉴럴 네트워크 연산 장치.

7

제6항에 있어서,상기 컨트롤러는,상기 메인 데이터의 출력이 끝나는 시점에, 상기 페이즈 신호를 상기 제3 페이즈 신호로 변경하고,채널 인덱스에 기초하여 상기 내부 스토리지로부터 상기 데이터를 수신하여 출력하는,뉴럴 네트워크 연산 장치.

8

제1항에 있어서,상기 컨트롤러는,상기 리셋 신호에 기초하여 상기 내부 스토리지를 상기 데이터로 초기화하는,뉴럴 네트워크 연산 장치.

9

제1항에 있어서,상기 컨트롤러는,상기 메인 데이터에 대응하는 필터의 첫 번째 출력이 생성되는 시점에 상기 리셋 신호를 생성함으로써 상기 내부 스토리지를 초기화하는,뉴럴 네트워크 연산 장치.

10

삭제

11

뉴럴 네트워크 연산 장치에 의해 수행되는 뉴럴 네트워크 연산 방법에 있어서,상기 뉴럴 네트워크 연산 장치가 뉴럴 네트워크 연산을 수행하기 위한 데이터를 저장하는 단계;상기 뉴럴 네트워크 연산 장치가 상기 데이터 및 메인 데이터의 덧셈을 수행하는 단계;상기 뉴럴 네트워크 연산 장치가 덧셈 결과와 메인 데이터 중에서 하나를 선택하기 위한 리셋 신호를 생성하는 단계;상기 뉴럴 네트워크 연산 장치가 상기 데이터의 양자화 결과와 상기 메인 데이터 중에서 하나를 선택하기 위한 페이즈 신호를 생성하는 단계;상기 뉴럴 네트워크 연산 장치가 상기 리셋 신호에 기초하여 덧셈 결과 및 상기 메인 데이터 중에서 하나를 출력하는 단계; 및상기 뉴럴 네트워크 연산 장치가 상기 페이즈 신호에 기초하여 상기 데이터의 양자화 결과 및 상기 메인 데이터 중에서 하나를 출력하는 단계를 포함하는 뉴럴 네트워크 연산 방법.

12

제11항에 있어서,상기 데이터가 저장된 내부 스토리지로부터 상기 데이터를 수신하여 저장하는 단계;상기 메인 데이터를 수신하여 저장하는 단계; 및상기 덧셈 결과와 상기 메인 데이터 중에서 선택된 하나를 저장하는 단계를 더 포함하는 뉴럴 네트워크 연산 방법.

13

제11항에 있어서,상기 페이즈 신호에 기초하여 상기 데이터의 양자화 결과 및 상기 메인 데이터 중에서 하나를 출력하는 단계는,양자화 팩터(quantization factor)에 기초하여 상기 데이터를 양자화함으로써 상기 양자화 결과를 생성하는 단계를 포함하는 뉴럴 네트워크 연산 방법.

14

제11항에 있어서,상기 저장하는 단계는,상기 데이터의 출력 텐서(output tensor)의 위치를 나타내는 채널 인덱스에 기초하여 상기 데이터를 저장하는 단계를 포함하는 뉴럴 네트워크 연산 방법.

15

제11항에 있어서,상기 뉴럴 네트워크 연산 장치가 상기 메인 데이터가 유효한지 여부에 기초하여 상기 데이터를 저장하는 내부 스토리지를 업데이트하는 단계를 더 포함하는 뉴럴 네트워크 연산 방법.

16

제11항에 있어서,상기 페이즈 신호는,상기 뉴럴 네트워크 연산 장치가 연산을 수행하지 않도록 하기 위한 제1 페이즈 신호;상기 메인 데이터를 출력하고, 상기 데이터를 저장하는 내부 스토리지를 업데이트하기 위한 제2 페이즈 신호; 및상기 양자화 결과를 출력하기 위한 제3 페이즈 신호를 포함하는 뉴럴 네트워크 연산 방법.

17

제16항에 있어서,상기 뉴럴 네트워크 연산 장치가 상기 메인 데이터의 출력이 끝나는 시점에, 상기 페이즈 신호를 상기 제3 페이즈 신호로 변경하는 단계; 및상기 뉴럴 네트워크 연산 장치가 채널 인덱스에 기초하여 상기 내부 스토리지로부터 상기 데이터를 수신하여 출력하는 단계를 포함하는 뉴럴 네트워크 연산 방법.

18

제11항에 있어서,상기 뉴럴 네트워크 연산 장치가 상기 리셋 신호에 기초하여 상기 데이터를 저장하는 내부 스토리지를 상기 데이터로 초기화하는 단계를 더 포함하는 뉴럴 네트워크 연산 방법.

19

제11항에 있어서,상기 리셋 신호를 생성하는 단계는,상기 메인 데이터에 대응하는 필터의 첫 번째 출력이 생성되는 시점에 상기 리셋 신호를 생성함으로써 상기 데이터를 저장하는 내부 스토리지를 초기화하는 단계를 포함하는 뉴럴 네트워크 연산 방법.

20

하드웨어와 결합되어 제11항 내지 제19항 중 어느 하나의 항의 방법을 실행시키기 위하여 컴퓨터 판독가능한 매체에 저장된 컴퓨터 프로그램.