집약적인 모바일 게임/그래픽 응용을 실행하는 최신의 이기종 CPU-GPU 기반 모바일 아키텍처는 에너지 효율성을 유지하면서 높은 성능을 달성하기 위해 소프트웨어 거버너를 사용한다. 그러나 기존 거버너는 일반적으로 단순한 통계적 또는 휴리스틱 모델을 활용하며, 모바일 게임의 소규모 불균형 데이터셋을 사용해 선형 관계를 가정하는 경향이 있다. 그 결과 이기종 플랫폼에서의 동적이고 다양한 게임 워크로드에 대해 예측 오차가 크게 발생한다. 이러한 한계를 극복하기 위해, 해석 가능한 머신러닝(ML) 모델을 통합한 CPU-GPU 거버너를 제안한다: (1) 정확성(낮은 오차)과 수학적 공식에 기반한 해석 가능한 ML 모델을 동시에 고려하여, 시뮬레이터빌리티(simulatability) 연산 횟수의 정량적 지표를 사용함으로써 오프라인에서 트리 기반 구간별 선형 모델(즉, 모델 트리)을 구축한다. 그리고 (2) 선택된 모델을 온라인 추정에 배치하여 이를 통합 CPU-GPU 동적 전압 주파수 조절(Dynamic Voltage Frequency Scaling, DVFS) 거버너에 적용한다. 서로 다양한 특성을 보이는 20개의 모바일 게임을 대상으로 한 테스트 세트에서 수행한 실험 결과, 본 거버너는 프레임당 에너지에서 평균 10% 이상(최대 38%)의 유의한 에너지 효율 향상을 달성했으며, 단순 선형 회귀 모델을 사용하는 전형적인 최신 상태의 거버너와 비교하여 프레임/초 성능에서는 놀랍지만 절제된 3%의 향상만을 보였다.

딥러닝 기반 지능형 서비스는 스마트시티와 헬스케어를 포함한 사이버물리 응용에서 널리 활용되고 있다. 사용자 말단에 가까운 위치에 딥러닝 기반 지능을 배치하면 개인정보 보호, 응답성, 신뢰성을 향상시킬 수 있다. 자원이 제한된 말단 단말은 연산 집약적인 딥러닝 서비스를 수행하는 데 필요한 지연 및 에너지 요구사항을 충족하도록 세심하게 관리되어야 한다. 딥러닝을 위한 협력형 말단-엣지-클라우드 컴퓨팅은 응용 요구를 계산 오프로딩을 통해 충족할 수 있도록 다양한 성능 및 효율성을 제공한다. 계산 오프로딩 여부를 결정하는 것은 통신-컴퓨팅 공동 최적화 문제이며, 이는 시스템 매개변수(예: 네트워크 상태)와 작업 부하 특성(예: 입력) 모두에 따라 달라진다. 그러나 딥러닝 모델 최적화는 지연과 모델 정확도 사이의 또 다른 트레이드오프 원천을 제공한다. 이러한 컴퓨팅-통신 문제를 고려하는 종단 간 의사결정 해법이 딥러닝 서비스의 최적 오프로딩 정책과 모델을 시너지 있게 찾기 위해 필요하다. 이를 위해 본 연구에서는 응답 시간을 최소화하면서 충분한 정확도를 제공하도록 딥러닝 모델 선택 기법을 고려한 최적 오프로딩 정책을 학습하는 강화학습 기반 컴퓨팅 오프로딩 해법을 제안한다. 종단-엣지-클라우드 시스템에서 엣지 장치에 대한 본 해법의 유효성을 입증하고, 다중 AWS 및 ARM 코어 구성으로 실제 환경 설정을 통해 평가한다. 본 해법은 최신기술 대비 평균 응답 시간에서 35%의 향상을 제공하면서 정확도 감소는 0.9% 미만이며, 이는 종단-엣지-클라우드 시스템에서 DL 추론을 오케스트레이션하기 위한 온라인 학습 프레임워크의 가능성을 보여준다.

사물인터넷(Internet of Things, IoT) 패러다임은 서비스의 최적 응답 시간을 보장하면서 애플리케이션을 포그 또는 클라우드 계층으로 오프로딩(offloading)하기 위한 효율적 전략을 고안하는 데 있어 도전 과제를 제기한다. 기존의 계산 오프로딩 정책은 응답 시간이 실행 시간에 의해서만 지배된다고 가정한다. 그러나 응답 시간은 문맥 매개변수 및 애플리케이션 특성 등 여러 요인의 함수이며, 이러한 요인들은 시간에 따라 변할 수 있다. 계산 오프로딩 문제와 관련하여 기존 문헌의 대부분은 애플리케이션 특성과 데이터흐름 구성의 영향을 무시한 채, 제한된 수의 매개변수(예: 계산 능력과 네트워크 대역폭)를 고려함으로써 효율적인 해법을 제시한다. 본 논문에서는 보다 현실적인 매개변수(예: 애플리케이션 특성, 시스템 복잡도, 통신 비용, 데이터흐름 구성)를 고려하는 3계층 IoT 시스템에서 계산 오프로딩이 전체 애플리케이션 응답 시간에 미치는 영향을 탐구한다. 또한, Output–Input Data Generation (OIDG) 비율로 정의되는 새로운 애플리케이션 특성 매개변수와 데이터흐름 구성, 이들이 시스템 거동에 미치는 영향을 부각한다. 더 나아가, 상기 매개변수를 관찰하여 실시간 의사결정을 수행하는 개념증명(proof-of-concept) 종단(end-to-end) 동적 계산 오프로딩 기법을 실제 하드웨어 구성에서 구현하여 제시한다.

IoT 애플리케이션은 최종 사용자에게 만족스러운 서비스를 제공하기 위해 더 높은 체감품질(Quality of Experience, QoE)을 요구한다. 사용자의 가변적 행태, 다양한 애플리케이션 요구사항, 그리고 동적인 시스템 제약은 QoE 제공의 어려움을 더욱 악화시킨다. 상황 인지는 사용자, 애플리케이션, 시스템 수준에서의 제약을 포괄하며, 시스템 역학을 정량적으로 반영한다. 이러한 모델은 시스템 스택의 여러 계층에 걸친 다양성을 관리하는 동시에 QoE를 향상시킬 수 있다. 본 논문에서는 헬스 모니터링 애플리케이션을 사용하여 시간에 따라 달라지는 엣지 패러다임(edge paradigm)에서의 다양한 요구사항과 기회를 탐구한다. 이러한 과제에 대응하기 위해, 네트워크로 연결된 분산 하드웨어 플랫폼 전반에서 IoT 애플리케이션을 지능적으로 오케스트레이션할 수 있는 상황 인지 모델을 제안한다.

자율주행 시스템은 기능 및 성능 요구사항에 따라, 내장형 시스템에서 서로 다른 자율주행 워크로드들의 앙상블을 종단(toward end-to-end) 방식으로 실행한다. 서로 다른 내장형 플랫폼에서 탐색, 최적화, 종단 평가를 가능하게 하기 위해, 시스템 설계자들은 실제 세계의 자율주행 워크로드가 지니는 고유한 특성을 현실적으로 반영하면서 자율주행 시나리오를 유연하고 원활하게 구성할 수 있게 해 주는 벤치마크 스위트가 비판적으로 필요하다. 기존의 CPU 및 GPU 내장형 벤치마크 스위트는 일반적으로 (1) 독립적인 애플리케이션만을 고려하고, (2) 센서 기반이 아니며, (3) 엄격한 타이밍 요구사항을 동시에 충족하면서 CPU와 GPU를 함께 활용하는 최신 자율주행 애플리케이션을 지원할 수 없다. 반면, 전(全) 시스템 자율주행 시뮬레이터(예: AUTOWARE, APOLLO)는 기능적 시뮬레이션에 초점을 두지만, 다양한 내장형 플랫폼에서 자율주행 소프트웨어 스택을 평가할 수 있는 기능이 부족하다. 이러한 설계 요구를 해결하기 위해, 우리는 구성 가능한 대표 워크로드를 갖춘 최초의 오픈소스 종단형 자율주행 벤치마크 스위트인 Chauffeur를 제안한다. Chauffeur는 설정 및 실행이 용이하여, 연구자들이 서로 다른 플랫폼 구성을 평가하고 자율주행 소프트웨어 파이프라인의 대안적 인스턴스화를 탐색할 수 있도록 한다. Chauffeur는 다양한 대두되는 플랫폼에서 동작하며 이기종 온보드 자원을 활용한다. NVIDIA Jetson TX2와 Drive PX2라는 서로 다른 내장형 플랫폼에서 Chauffeur를 초기 특성화한 결과를 통해, 이러한 GPU 플랫폼들이 종단형 자율주행 계산 파이프라인을 실행할 때의 종단 응답 시간을 평가하고, 더 나은 응답 시간을 위한 애플리케이션 갱(application gang)을 만들 수 있는 기회도 함께 제공하면서, 이들 플랫폼에 대한 비교 평가가 가능해진다. Chauffeur는 연구자들이 대표적인 자율주행 워크로드를 벤치마크하고 다양한 자율주행 시나리오에 맞게 이를 유연하게 조합함으로써, 설계 제약, 전력 예산, 실시간 성능 요구사항, 애플리케이션의 정확도 사이의 종단형 트레이드오프를 탐색할 수 있게 한다.

복합 사물인터넷(IoT) 응용, 예를 들어 헬스케어 IoT는 다양한 컴퓨팅, 데이터 및 통신 커널 강도(kernel intensities)를 포함하며, 지연(latency), 처리량(throughput), 가용성(availability), 정확도(accuracy) 등 QoS 요구사항에 대한 민감도(sensitivities)가 다양하다. 이러한 응용의 QoS 요구사항을 보장하기 위해서는 효율적인 전(全)스택 분석을 수행할 수 있는 포괄적인 도구가 필요하다. 우리의 관찰에 따르면, 문헌에는 IoT 시스템에 대한 전(全)스택 통신-컴퓨테이션 동시 시뮬레이션을 지원할 수 있는 시뮬레이터가 부족하다. 또한 IoT 시스템의 행태는 상태 및 맥락의 변화로 인해 실행 시간 동안 극적으로 달라질 수 있다. 따라서 그러한 시스템은 시간에 따라 동적으로 제어되어야 한다. 본 논문에서는 동적 시나리오에서 IoT 시스템의 통신 및 컴퓨팅 측면을 동시 시뮬레이션하기 위한 전(全)스택 프레임워크를 처음으로 제안한다. 우리는 전송 제어 프로토콜(Transmission Control Protocol, TCP)의 지연(latency) 모델을 iFogSim 시뮬레이터에 통합한다. 프레임워크를 평가하기 위해 헬스케어 IoT 기반 사례 연구를 수행한다. 본 프레임워크는 오픈소스이며 다음 GitHub 저장소에서 사용할 수 있다: https://github.com/HealthSciTech/Dynamic iFogSim.

모바일 애플리케이션의 규모가 빠르게 확대됨에 따라, 모바일 기기에서 애플리케이션 로딩 성능의 중요성이 점점 더 강조되고 있다. 그러나 현재의 운영체제는 요구 페이징(demand paging)에 의존하여 애플리케이션의 작업 집합(working set)을 메모리에 적재하며, 이 과정에서 일반적으로 작은 크기의 입력/출력(I/O)이 발생하는데, 이는 모바일 플래시 저장 장치에서 제대로 처리되지 않는 경우가 많다. 본 연구에서는 명시적인 애플리케이션 로딩 방법과 일련의 최적화 기법으로 구성된 공격적인 병합(merging) 기법을 제안한다. 여기에는 I/O 재정렬(I/O reordering), I/O 병합(I/O merging), 그리고 I/O 패딩(I/O padding)이 포함된다. 본 기법의 핵심 아이디어는 애플리케이션 로딩을 위한 I/O 크기를 확대하여 유효 저장 처리량(effective storage throughput)을 증가시키는 것이다. 실험 결과, 본 기법은 평균 I/O 크기를 $5.6\times$만큼 효과적으로 증가시키며, 그 결과 작업 집합 로딩 시간은 30% 감소함을 보였다.

이동형 플랫폼은 그래픽 집약적 애플리케이션, 예를 들어 모바일 게임에서 고성능을 달성하기 위해 서로 차별화된 처리 코어와 GPU를 갖춘 이종 다중처리기 시스템온칩(Heterogeneous Multiprocessor Systems-on-Chip, HMPSoCs)을 점점 더 많이 활용하고 있다. 전통적으로 에너지 효율을 위해 동적 전압 주파수 스케일링(Dynamic Voltage Frequency Scaling, DVFS) 방식으로 CPU 및 GPU 각각에 대해 별도의 거버너(governor)를 배치하지만, DVFS를 시스템 수준에서 조율하여 추가적인 에너지 절감 기회를 포착하는 데에는 한계가 있다. 본 연구는 협력적 CPU-GPU DVFS 전략( Co-Cap )을 제안하며, 이는 CPU와 GPU의 주파수 상한(frequency capping)을 상호 시너지적으로 적용함으로써 주파수 과잉 할당을 방지하면서도 원하는 성능을 유지하는 방식으로 에너지 효율적인 CPU 및 GPU DVFS를 오케스트레이션한다. Co-Cap은 전통적 접근이 특정 소수의 모바일 게임에만 초점을 맞추는 것과 달리, 다양한 마이크로벤치마크 및 모바일 게임 전반에 적용 가능하다. 본 방법론은 주파수 상한 테이블에 대한 평가를 포함하는 세밀한 정련(refinement) 단계로 구성된 체계적 학습 단계와, 이후 배치(deployment) 단계를 사용한다. 이를 통해 다양한 그래픽 부하를 갖는 폭넓은 마이크로벤치마크 및 모바일 게임에 대해 배치가 가능해진다. 200개가 넘는 마이크로벤치마크 세트와 40개 모바일 게임을 대상으로 한 다수의 실험 결과에 따르면, Co-Cap은 프레임당 에너지 소모를 평균 8.9%(최대 18.3%) 및 7.8%(최대 27.6%), (CPU 지배적 애플리케이션에서는 16.6% 및 15.7%) 개선하며, 학습 및 배치 세트에서 각각 초당 프레임 수(FPS) 손실을 평균 0.9%와 0.85%(CPU 지배적 애플리케이션에서는 1.3% 및 1.5%)로 최소화한다. 이는 기본 CPU 및 GPU 거버너에 비해 성능 저하가 매우 작으며, ODROID-XU3 플랫폼에서 실행 시간과 전력 소모에 대한 오버헤드는 미미한 수준이다.