딥 신경망(DNN)의 파라미터 크기가 증가함에 따라, 메모리 대역폭에 대한 수요가 커지면서 고대역폭 메모리(HBM)가 널리 채택되고 있다. 그러나 더 높은 온칩 온도로 인해 유지 시간이 짧아지면서 HBM은 더 잦은 리프레시(refresh) 연산을 필요로 하며, 그 결과 리프레시 에너지와 성능 오버헤드가 상당해진다. 본 논문에서는 추론 정확도를 유지하면서 리프레시 연산을 줄이기 위해, HBM 상의 INT8 양자화 DNN을 위한 가볍고 견고한 ECC 방식인 SHIFT ECC를 제안한다. SHIFT ECC는 음의 가중치를 양의 가중치로 변환함으로써 DNN의 신뢰성을 향상시키며, 궁극적으로 유지 오류의 주요 원인(대부분 1→0 비트 오류)을 완화한다. 또한 SHIFT ECC는 DNN 가중치의 상위 비트(더 중요한 비트)에 더 강한 ECC를 적용하고, 하위 비트(덜 중요한 비트)에는 더 약한 ECC로 보호함으로써, 동일한 패리티 비트 수에서 DNN의 견고성을 추가로 향상시킨다. 평가 결과, 1→0 비트 오류의 비율이 각각 100% 및 99%일 때 SHIFT ECC는 평균 리프레시 에너지를 각각 32.6% 및 35.0% 감소시키며, 최신 리프레시 감축 기법 대비 평균 메모리 읽기 지연을 21.7% 감소시킨다.

*본 초록은 AI를 통해 원문을 번역한 내용입니다. 정확한 내용은 하기 원문에서 확인해주세요.