딥러닝 기술이 고도화됨에 따라 증강현실(AR)이나 자율주행차와 같은 모바일 비전 애플리케이션이 널리 보급되고 있다. 이러한 서비스의 성능은 서로 다른 모바일 기기의 연산 능력, 동적인 서비스 요청, 확률적 모바일 네트워크 환경, 그리고 학습 모델에 크게 좌우된다. 기존 연구들은 다른 측면의 파라미터와 연산/네트워크 자원이 주어졌을 때, 모바일 자원 할당과 학습 모델 설계를 각각 독립적으로 최적화해 왔다. 그러나 시간에 따라 변하는 무선 채널과 서비스 요청이 특정 분포를 따른다고 가정함으로써, 이러한 접근은 현실적인 모바일 환경을 충분히 반영하지 못한다. 이러한 비현실적 가정을 배제하고자, 우리는 시스템 동역학에 적응하면서 학습 모델과 처리/네트워크 자원을 함께 최적화하는 알고리즘, 즉 최신 온라인 볼록 최적화(online convex optimization, OCO) 프레임워크를 활용한 VisionScaling을 제안한다. VisionScaling은 매 타임 슬롯마다 1) 학습 측에서의 학습 모델과 입력 레이어의 크기, 그리고 2) 자원 측에서의 GPU 클럭 주파수, 전송률, 계산 오프로딩(offloading) 정책을 동시에 의사결정한다. 우리는 이론적으로 VisionScaling이 만족할 만한 차수의 부분선형성(sublinearity)을 갖추며 비동기적으로(점근적으로) 오프라인 최적 성능에 수렴함을 보인다. 또한, 실제 트레이스 기반 시뮬레이션을 통해 VisionScaling이 mean average precision(mAP) 제약 하에서 에너지 소비와 초당 처리 프레임 수(PFPS)를 포착하는 동적 후회(dynamic regret)를 최소 24% 절감함을 입증한다. 마지막으로, Nvidia Jetson TX2와 고성능 GPU를 갖춘 엣지 서버를 테스트베드로 하여, VisionScaling이 목표 mAP를 만족하면서 에너지를 30.8% 절감하고 PFPS를 39.7% 향상시킴을 보여준다.
*본 초록은 AI를 통해 원문을 번역한 내용입니다. 정확한 내용은 하기 원문에서 확인해주세요.