저항성 랜덤 액세스 메모리(RRAM) 기반 컴퓨팅 인 메모리(CIM)는 기존 폰 노이만(von Neumann) 아키텍처의 메모리 병목을 제거함으로써 에너지 효율적인 딥러닝 추론을 위한 유망한 해결책으로 부상하고 있다. 그러나 제한된 비트 정밀도와 멤리스티브 소자의 고유한 변동성은 추론 정확도에 중대한 도전을 제기한다. 본 연구에서는 양자화 이전에 가중치 이상치를 억제하기 위해 σ 기반 클리핑(sigma-based clipping)을 포함하는 사후 학습 양자화(post-training quantization, PTQ) 프레임워크를 제시한다. 이 기법은 가중치의 동적 범위를 축소하여 양자화 해상도와 견고성을 향상시킨다. 이진화된 MNIST 데이터를 사용해 학습한 3층 완전 연결 신경망을 바탕으로, z-score 임계값 전반에서 PTQ 성능에 대한 σ-클리핑의 영향을 분석하였다. 클리핑은 추론 정확도를 향상시키고, 재학습된 모델들에서 정확도 분산을 감소시켰다. 또한 48 × 48 Al2O3/TiOx 기반 RRAM 크로스바 어레이를 사용하여 실험적으로 본 접근법을 검증하였다. 가중치 프로그래밍 중 도전율(conductance) 편차가 발생함에도 불구하고, 클리핑은 추론 정확도를 96.27%에서 97.76%로 향상시켜 하드웨어 변동 하에서도 그 효과를 확인하였다. 시뮬레이션에서는 실험적으로 관찰된 변동에 상응하는 변이를 도입하였을 때 PTQ 정확도가 96.42%에서 83.67%로 감소한 반면, 클리핑된 모델은 96.96%를 유지하였으며, 이는 12.75%p의 개선을 보여주었다. 이러한 결과는 σ-클리핑이 CIM 기반 신경망의 양자화 견고성을 향상시키기 위한 실용적이고 경량의 전략임을 입증한다.

*본 초록은 AI를 통해 원문을 번역한 내용입니다. 정확한 내용은 하기 원문에서 확인해주세요.