장단기 메모리(Long Short-Term Memory, LSTM) 네트워크는 주의(attention) 메커니즘과 결합될 때 시계열 데이터를 처리하는 데 특히 건축 에너지 예측 분야에서 뛰어난 성능을 보인 것으로 입증되었다. 그러나 높은 계산 복잡도와 자원 집약성은 실시간 응용 및 엣지 기기에서의 활용에 있어 중대한 과제를 야기한다. 양자화(quantization)와 같은 이러한 문제를 완화하기 위한 전통적 방법들은, 과정에서 도입되는 근사 오차로 인해 모델 성능의 저하를 감수해야 하는 타협을 흔히 초래한다. 본 논문에서는 이러한 과제를 해결하기 위한 새로운 양자화 친화적(attention-based) LSTM 모델 Q-LAtte를 제안한다. Q-LAtte는 양자화에 있어 혁신적인 접근 방식을 적용하여, 표준 양자화 기법에서 흔히 나타나는 성능 저하를 크게 줄이면서 효율성의 이점을 보존한다. 우수한 성능의 핵심은 분포 인식(distribution-aware) 양자화 과정에 있다. Q-LAtte는 양자화 전후 모델 파라미터의 출력 분포를 효과적으로 보존함으로써, 예측이나 분류와 같은 의사결정 과정에 필수적인 미세하지만 중요한 변이를 유지하도록 보장한다. 전통적인 양자화 모델과 비교할 때, Q-LAtte는 눈에 띄는 성능 향상을 보인다. 구체적으로, 본 방법은 시간 비용을 최소화하면서 Mean Average Percentage Error(MAPE)를 17.56에서 8.48로 감소시키고, Mean Absolute Scaled Error(MASE)를 48% 감소시킨다. 이러한 결과는 효율성과 정확성 사이의 균형을 달성하는 데 있어 Q-LAtte의 유효성을 보여주며, 자원이 제한된 기기에서 실시간 현장 데이터 분석 및 의사결정을 수행하기 위해 attention-LSTM 네트워크를 배치하는 가능성을 크게 향상시킨다.

*본 초록은 AI를 통해 원문을 번역한 내용입니다. 정확한 내용은 하기 원문에서 확인해주세요.