온라인 머신러닝(ML) 기반 스트리밍 처리 시스템(SPS)은 실시간 스트림 처리와 동시 모델 학습 및 추론을 통해 연속적이고 점진적인 학습을 결합한다. 본 시스템은 대규모의 동적이며 고속의 데이터 스트림을 처리하는 동시에 시간이 지남에 따라 성능을 향상시키도록 모델을 적응시킨다. 그러나 지연(latency)과 에너지 효율성 간의 트레이드오프 균형을 맞추는 문제는 여전히 핵심적인 과제로 남아 있으며, 선행 연구에서는 충분히 다루어지지 않았다. 본 논문에서는 온라인 ML 기반 SPS에서 전력 소모와 지연을 공동 최적화하기 위해 설계된 새로운 프레임워크인 EQUILIBRIA를 제안한다. EQUILIBRIA는 동적 전압 및 주파수 스케일링(DVFS)과 두 가지 혁신적인 에너지 최적화 전략을 통합한다. 첫째, 파레토(Pareto) 기반 클럭 주파수 조정 메커니즘을 통해 코어와 메모리 클럭 주파수를 모두 동적으로 튜닝하여 에너지 소비를 최소화하면서도 지연을 감소시킨다. 둘째, 정확도 요구사항을 충족한 이후에는 지연을 보존한 채로 주기적으로 모델 학습을 일시 중지하고 재개하는 2단계(threshold) 훈련 관리 기법을 통해 에너지 사용을 최적화한다. 다양한 쿼리와 트래픽 시나리오에 대한 실험 평가 결과, EQUILIBRIA는 지연을 손상시키지 않으면서 최대 58%의 에너지 절감 효과를 달성함을 보여주었으며, 빠르게 변화하는 현대적 데이터 환경에서 에너지 효율적 고성능 스트리밍 분석을 구현하는 데 있어 중요한 진전을 제공한다.

*본 초록은 AI를 통해 원문을 번역한 내용입니다. 정확한 내용은 하기 원문에서 확인해주세요.