본 논문은 에지에 배치된 상용 오프더셸프(Commercial-Off-The-Shelf) 장치에서, 사전 학습된 심층 신경망(DNN)들의 네트워크 추론을 수행하기 위한 새로운 접근 방식을 제시한다. 문제는 에너지 제약이 있고 성능이 제한된 에지 장치 와 에너지 제약이 없는 고성능 장치 —이하 cloudlet—사이에 DNN의 연산을 분할하는 것으로, 데드라인 제약을 만족하는 조건에서 의 에너지 소비를 최소화하는 것을 목표로 한다. 제안된 분할 알고리즘은 장치들에서 DNN을 실행할 때의 성능 프로파일, 전력 소비 프로파일, 그리고 무선 채널 지연의 변동성을 고려한다. 본 알고리즘은 에지 장치 로 NVIDIA Jetson Nano를 사용하고, cloudlet로 Titan Xp GPU를 탑재한 Dell 워크스테이션으로 구성된 플랫폼에서 시연된다. 실험 결과는 의 에너지 소비와 애플리케이션의 처리 지연 모두에서 유의한 개선을 보인다. 또한 데드라인 제약을 변경할 때 에너지 최적해가 어떻게 달라지는지를 보여준다. 더 나아가, 제안 방법의 의사결정에 따른 오버헤드는 기존의 정수 선형 계획(Integer Linear Programming, ILP) 해법에 비해 유의하게 낮다.
*본 초록은 AI를 통해 원문을 번역한 내용입니다. 정확한 내용은 하기 원문에서 확인해주세요.