제로 스킵(Zero-skipping)은 심층 신경망(DNN) 가속기의 에너지 효율을 향상시키는 유명한 기법이다. 제로 스킵을 무손실 압축을 이용해 인코딩된 데이터로 구현할 때, 압축률의 불일치로 인해 데이터의 크기가 불규칙하고 예측 불가능해지며, 이는 다음과 같은 여러 설계 문제를 유발한다: 1) 버퍼에 저장된 데이터의 불규칙성으로 인한 로드 불균형; 2) 누적(accumulation) 과정에 대한 복잡한 라우팅; 그리고 3) 예측 불가능한 메모리 점유(footprint) 할당. 본 연구에서는 ROZK라는 DNN 가속기를 제안하며, 이는 다음을 포함한다: 1) 각 처리 요소(PE)가 로컬 레지스터 파일을 갖추어 인코딩 데이터 없이 로컬 PE의 비정형 0에 대해 제로 스킵을 가능하게 하는 트리-정상(tri-stationary) 데이터플로우; 2) 저비용 룩업 테이블(LUT) 기반의 로컬 제로 스킵 방식; 그리고 3) 다양한 정상(stationary) 유형을 지원하는 재구성 가능 네트워크 온 칩(NoC) 아키텍처. 또한, 각 연산 유닛이 자신의 연산을 완료하는 즉시 입력을 전달함으로써 연산 활용도를 더 향상시키기 위해 사이클 예측 스케줄러(CPS)도 제안한다. 마지막으로, ROZK는 64비트 RISC-V 코어 기반 시스템 온 칩(SoC) 아키텍처에 연결된다. SoC 아키텍처는 28-nm 공정으로 제작되었고 다양한 DNN 워크로드를 통해 검증되었다. ROZK는 409-MHz 동작 주파수에서 191 giga operations per second(GOPS)(0% 활성 희소성)와 324 GOPS(60% 활성 희소성)를 달성한다.

*본 초록은 AI를 통해 원문을 번역한 내용입니다. 정확한 내용은 하기 원문에서 확인해주세요.