온디바이스 딥 신경망(DNN) 추론은 사용자 경험과 프라이버시 측면에서 종종 바람직하다. 기존의 솔루션들은 추론 지연 시간을 최소화하기 위해 자원을 충분히 활용해 왔다. 그러나 이러한 방식은 서비스 구간에 필요한 시간보다 훨씬 일찍 DNN 추론을 완료함으로써 심각한 에너지 비효율을 초래한다. 이는 정해진 시간에 맞추면서도 에너지 효율적으로 DNN 추론을 수행하는 방법이라는 새로운 과제를 제기한다. 이 과제를 해결하기 위해, 우리는 DNN 처리에 대한 새로운 자원 할당 전략인 punctual laziness를 제안하며, 이는 엄격한 지연 제약 내에서 작업 부하를 가능한 한 효율적으로 시간에 분산시키는 방식이다. 이 전략은 DNN이 지연 시간과 에너지 소모가 예측 가능한 일련의 인기 연산자들로 구성된다는 점에서 특히 신경 워크로드에 유리하다. 이러한 이해를 바탕으로, 우리는 그 연산자들을 고려한 연산자-인식(operator-aware) 코어 및 메모리 주파수 스케일링 프레임워크인 NeuroBalancer를 제안하여, 적절한 추론 시점을 보장하면서도 해당 주파수들을 가능한 한 효율적으로 균형 있게 조정한다. 우리는 상용(시판) 안드로이드 기기에서 여러 최신 DNN 모델로 NeuroBalancer를 구현하고 평가한다. 그 결과, NeuroBalancer는 주어진 추론 지연 요구사항을 성공적으로 충족하면서, CPU와 GPU에서 각각 안드로이드의 기본 governor 대비 최대 43.9% 및 21.1%까지, 그리고 CPU와 GPU에서 각각 최신 모바일 governor인 SysScale 대비 최대 42.1% 및 18.6%까지 에너지 소모를 절감함을 보여준다.

본 연구에서는 무손실 데이터 전송을 위한 새로운 전달 방식, 즉 압축전송(compressive transmission)의 가능성을 탐색한다. 이는 송신자와 수신자 사이에서 공유되는 맞춤형 정보를 활용함으로써 실행 시 전송 데이터의 용량을 최소화하는 것을 목표로 한다. 공유 정보를 압축에 활용하기 위한 두 가지 접근법으로는 1) 공유 정보의 대리(proxy)로서 DNN 기반 코덱을 사용하는 방법과 2) 중복 제거(deduplication)를 통한 중복성 제거(redundancy elimination) 방법이 있다. 그러나 이러한 접근법들은 압축률과 공유 정보의 양 사이의 상충관계를 활용하기 위해 깊이 있게 연구되지 않았다. 이들 접근법에 비해 압축전송은 양측에서 이용 가능한 정보의 풍부함을 전적으로 활용하며, 이는 의도적으로 선택되고 배치된다. 이러한 개념을 현실화하기 위해, 우리는 생성 모델(generative model)과 매칭 블록(matching blocks)을 적응적으로 활용하는 신경망 기반 압축전송 시스템인 nCTX를 제안한다. nCTX는 입력 데이터로부터 최적의 의미론적 데이터를 추출하고, 공유 정보를 활용하여 원본을 보다 가깝게 모사한 뒤 오프셋(즉, 차이)으로 이를 보완한다. 모바일 플랫폼에서의 광범위한 평가는 nCTX가, 계산 시간이 비교 가능하거나 더 짧은 조건에서 각각 FLIF 및 RC(최첨단 이미지 코덱) 대비 전송 용량을 유의하게 25.8% 및 23.3% 감소시킴을 확인하였다.

과도한 트래픽 유입으로 인해 막대한 네트워크 큐잉이 발생함에 따라, 셀룰러 네트워크에서는 예상보다 큰 패킷 지연이 흔히 관측된다. 이러한 대기열의 큰 문제를 해결하기 위해, 많은 혼잡 제어 알고리즘은 네트워크가 수용할 수 있는 트래픽의 양을 측정하거나 네트워크 성능을 측정함으로써 또는 명시적 정보를 직접 제공함으로써 이를 파악하려고 한다. 그러나 큐 성장의 관측을 전제로 하는 제어의 특성 또는 전체 네트워크 아키텍처를 수정해야 할 필요성 때문에, 기존 알고리즘들은 큐를 엄격한 상한 내에 유지하는 데 어려움을 겪고 있다. 본 논문에서는 전통적인 네트워크 아키텍처에 이미 제공되어 있는 1비트 신호만을 사용하여 한정된 큐잉 지연을 제공할 수 있는 단순 피드백 기반의 새로운 혼잡 제어 알고리즘 ECLAT을 제안한다. 이를 위해, ECLAT을 실행하는 기지국 또는 라우터는 1) 각 플로우가 전송해야 할 패킷 수를 계산하고 2) 플로우의 패킷 전송을 목표 전송률에 맞추기 위해 혼잡 피드백을 어느 시점에 전달해야 하는지를 분석한다. 자체 테스트베드에서 수행한 광범위한 실험 결과, ECLAT은 동적인 셀룰러 네트워크 환경에서도 엄격한 큐잉 지연 상한을 달성함을 확인하였다.

5G 이동통신 네트워크에서의 초저지연을 위한 설계 청사진(blueprint)은, 소형 데이터 단위(예: 패킷 또는 프레임)를 신속하게 전달해야 하는 초신뢰 저지연 통신 서비스를 가능하게 하기 위해 고안되었다. 그러나 시간에 민감한 것으로 상정되는 미래형 응용은 데이터 단위가 통상 매우 크기 때문에, 이 청사진이 처리할 수 있는 것보다 훨씬 더 많은 요구를 필요로 한다. 데이터 크기가 증가함에 따라, 지연은 네트워크가 단위 시간당 전송할 수 있는 데이터 양(즉, 대역폭)에 크게 영향을 받는다. 대역폭이 지연에 미치는 이러한 영향은, 지연이 원하는 시간 이내에 유지되도록 필요한 대역폭을 보장할 필요로 이어진다. 5G에서는 성능을 보장하기 위해 네트워크 슬라이싱이 도입되었으나, 시간에 따라 변하는 데이터 단위 크기와 무선 채널 품질이라는 본질적 특성을 어떻게 처리할지는 여전히 해결되지 않은 문제로 남아 있다. 이 글에서는 상세한 이해를 위해 먼저, 애플리케이션 수준에서의 종단 간 지연을 첫 바이트 지연(first-byte delay)과 나머지 바이트에 대한 전송 지연(transmission delay) 관점에서 논의한다. 이어서 최근의 기술들이 종단 간 지연 감소와 어떻게 관련되는지를 조사하고, 그것들의 본질로 인해 발생하는 도전적인 이슈들을 제시한다. 이러한 이슈를 다루기 위해, 성능 보장을 제공하기 위한 차세대(6G) 이동통신 네트워크의 새로운 설계를 제안하고, 해당 네트워크 설계에서의 미해결 과제들을 논의한다.

온디바이스 딥 신경망(DNN) 추론은 사용자 경험과 프라이버시 측면에서 종종 바람직하다. 기존의 솔루션들은 추론 지연 시간을 최소화하기 위해 자원을 충분히 활용해 왔다. 그러나 이러한 방식은 서비스 구간에 필요한 시간보다 훨씬 일찍 DNN 추론을 완료함으로써 심각한 에너지 비효율을 초래한다. 이는 정해진 시간에 맞추면서도 에너지 효율적으로 DNN 추론을 수행하는 방법이라는 새로운 과제를 제기한다. 이 과제를 해결하기 위해, 우리는 DNN 처리에 대한 새로운 자원 할당 전략인 punctual laziness를 제안하며, 이는 엄격한 지연 제약 내에서 작업 부하를 가능한 한 효율적으로 시간에 분산시키는 방식이다. 이 전략은 DNN이 지연 시간과 에너지 소모가 예측 가능한 일련의 인기 연산자들로 구성된다는 점에서 특히 신경 워크로드에 유리하다. 이러한 이해를 바탕으로, 우리는 그 연산자들을 고려한 연산자-인식(operator-aware) 코어 및 메모리 주파수 스케일링 프레임워크인 NeuroBalancer를 제안하여, 적절한 추론 시점을 보장하면서도 해당 주파수들을 가능한 한 효율적으로 균형 있게 조정한다. 우리는 상용(시판) 안드로이드 기기에서 여러 최신 DNN 모델로 NeuroBalancer를 구현하고 평가한다. 그 결과, NeuroBalancer는 주어진 추론 지연 요구사항을 성공적으로 충족하면서, CPU와 GPU에서 각각 안드로이드의 기본 governor 대비 최대 43.9% 및 21.1%까지, 그리고 CPU와 GPU에서 각각 최신 모바일 governor인 SysScale 대비 최대 42.1% 및 18.6%까지 에너지 소모를 절감함을 보여준다.

본 연구에서는 무손실 데이터 전송을 위한 새로운 전달 방식, 즉 압축전송(compressive transmission)의 가능성을 탐색한다. 이는 송신자와 수신자 사이에서 공유되는 맞춤형 정보를 활용함으로써 실행 시 전송 데이터의 용량을 최소화하는 것을 목표로 한다. 공유 정보를 압축에 활용하기 위한 두 가지 접근법으로는 1) 공유 정보의 대리(proxy)로서 DNN 기반 코덱을 사용하는 방법과 2) 중복 제거(deduplication)를 통한 중복성 제거(redundancy elimination) 방법이 있다. 그러나 이러한 접근법들은 압축률과 공유 정보의 양 사이의 상충관계를 활용하기 위해 깊이 있게 연구되지 않았다. 이들 접근법에 비해 압축전송은 양측에서 이용 가능한 정보의 풍부함을 전적으로 활용하며, 이는 의도적으로 선택되고 배치된다. 이러한 개념을 현실화하기 위해, 우리는 생성 모델(generative model)과 매칭 블록(matching blocks)을 적응적으로 활용하는 신경망 기반 압축전송 시스템인 nCTX를 제안한다. nCTX는 입력 데이터로부터 최적의 의미론적 데이터를 추출하고, 공유 정보를 활용하여 원본을 보다 가깝게 모사한 뒤 오프셋(즉, 차이)으로 이를 보완한다. 모바일 플랫폼에서의 광범위한 평가는 nCTX가, 계산 시간이 비교 가능하거나 더 짧은 조건에서 각각 FLIF 및 RC(최첨단 이미지 코덱) 대비 전송 용량을 유의하게 25.8% 및 23.3% 감소시킴을 확인하였다.

과도한 트래픽 유입으로 인해 막대한 네트워크 큐잉이 발생함에 따라, 셀룰러 네트워크에서는 예상보다 큰 패킷 지연이 흔히 관측된다. 이러한 대기열의 큰 문제를 해결하기 위해, 많은 혼잡 제어 알고리즘은 네트워크가 수용할 수 있는 트래픽의 양을 측정하거나 네트워크 성능을 측정함으로써 또는 명시적 정보를 직접 제공함으로써 이를 파악하려고 한다. 그러나 큐 성장의 관측을 전제로 하는 제어의 특성 또는 전체 네트워크 아키텍처를 수정해야 할 필요성 때문에, 기존 알고리즘들은 큐를 엄격한 상한 내에 유지하는 데 어려움을 겪고 있다. 본 논문에서는 전통적인 네트워크 아키텍처에 이미 제공되어 있는 1비트 신호만을 사용하여 한정된 큐잉 지연을 제공할 수 있는 단순 피드백 기반의 새로운 혼잡 제어 알고리즘 ECLAT을 제안한다. 이를 위해, ECLAT을 실행하는 기지국 또는 라우터는 1) 각 플로우가 전송해야 할 패킷 수를 계산하고 2) 플로우의 패킷 전송을 목표 전송률에 맞추기 위해 혼잡 피드백을 어느 시점에 전달해야 하는지를 분석한다. 자체 테스트베드에서 수행한 광범위한 실험 결과, ECLAT은 동적인 셀룰러 네트워크 환경에서도 엄격한 큐잉 지연 상한을 달성함을 확인하였다.

5G 이동통신 네트워크에서의 초저지연을 위한 설계 청사진(blueprint)은, 소형 데이터 단위(예: 패킷 또는 프레임)를 신속하게 전달해야 하는 초신뢰 저지연 통신 서비스를 가능하게 하기 위해 고안되었다. 그러나 시간에 민감한 것으로 상정되는 미래형 응용은 데이터 단위가 통상 매우 크기 때문에, 이 청사진이 처리할 수 있는 것보다 훨씬 더 많은 요구를 필요로 한다. 데이터 크기가 증가함에 따라, 지연은 네트워크가 단위 시간당 전송할 수 있는 데이터 양(즉, 대역폭)에 크게 영향을 받는다. 대역폭이 지연에 미치는 이러한 영향은, 지연이 원하는 시간 이내에 유지되도록 필요한 대역폭을 보장할 필요로 이어진다. 5G에서는 성능을 보장하기 위해 네트워크 슬라이싱이 도입되었으나, 시간에 따라 변하는 데이터 단위 크기와 무선 채널 품질이라는 본질적 특성을 어떻게 처리할지는 여전히 해결되지 않은 문제로 남아 있다. 이 글에서는 상세한 이해를 위해 먼저, 애플리케이션 수준에서의 종단 간 지연을 첫 바이트 지연(first-byte delay)과 나머지 바이트에 대한 전송 지연(transmission delay) 관점에서 논의한다. 이어서 최근의 기술들이 종단 간 지연 감소와 어떻게 관련되는지를 조사하고, 그것들의 본질로 인해 발생하는 도전적인 이슈들을 제시한다. 이러한 이슈를 다루기 위해, 성능 보장을 제공하기 위한 차세대(6G) 이동통신 네트워크의 새로운 설계를 제안하고, 해당 네트워크 설계에서의 미해결 과제들을 논의한다.

본 논문에서는 스마트폰을 위한 새로운 교통수단 인식 시스템인 DeepVehicleSense를 제시한다. DeepVehicleSense는 모바일 상황인지 서비스에 널리 적용될 수 있다. DeepVehicleSense는 후보 교통수단 상태에 있는 동안 내장 마이크로 포착되는 음향 특성을 활용함으로써 동시에 높은 정확도, 낮은 지연, 낮은 전력 소모의 세 가지 성능 목표를 달성하는 것을 지향한다. 높은 에너지 효율을 달성하기 위해, DeepVehicleSense는 스마트폰의 마이크 활성화를 최소화하는 계층적 가속도계 기반 트리거를 채택한다. 또한 높은 정확도와 낮은 지연을 달성하기 위해, DeepVehicleSense는 교통수단 음향 샘플을 가장 잘 추출할 수 있는 비선형 필터를 활용한다. 다섯 가지 서로 다른 교통수단 모드 인식을 위해, 복수 브랜치를 갖는 새로운 딥 신경망 아키텍처를 바탕으로 딥러닝 기반 음향 분류기를 설계한다. 단계적 추론 기법은 대부분의 샘플에서 높은 정확도를 유지하면서 실행 시간과 에너지 소비를 유의미하게 감소시킬 수 있다. 서로 다른 7종의 Android 전화 모델에서 수집한 263시간 데이터셋을 통해, DeepVehicleSense가 하루 종일 모니터링을 위한 평균 전력 소모 35.08 mW에서 단 2초의 음향 샘플만으로도 97.44%의 인식 정확도를 달성함을 보여준다.

무선 네트워크를 통해 자원 제약이 있는 모바일 기기에서 엣지 서버로 신경망 추론을 오프로딩(offloading)하는 것은 신경망이 더 무거워질수록 점점 더 중요해지고 있다. 이를 위해 최근 연구들은 이러한 오프로딩 과정을 보다 효율적으로 만들고자 시도해 왔다. 그러나 추론 정확도를 저하시키지 않으면서도 필요한 최소한의 정보만을 추출하여 오프로딩하는 문제에 대한 가장 근본적인 질문은 여전히 답이 없었다. 우리는 이러한 이상적인 오프로딩을 의미론적 오프로딩(semantic offloading)이라 부르고, 의미론적 오프로딩을 가능하게 하여 변동이 심한, 혹은 심지어 저대역폭 무선 네트워크에서도 보다 신뢰할 수 있고 시의적절한 추론을 달성하는 새로운 오프로딩 프레임워크인 N-epitomizer를 제안한다. N-epitomizer를 구현하기 위해, 네트워크를 통한 추론에서 지연 및 정확도 요구사항을 만족하도록 출력 크기를 조절하면서 가장 유익한 데이터를 추출하도록 훈련된 자동인코더 기반의 확장 가능한 인코더를 설계한다. 또한 인코더 설계에는 경량 지식 증류(light-weight knowledge distillation)를 활용하고 디코더 설계에는 디코더 슬리밍(decoder slimming)을 적용함으로써 N-epitomizer를 가속하여 전체 연산 시간을 상당히 감소시킨다. 더 나아가, 각 DNN에 필요한 핵심 정보의 합집합(union)을 추출하여 오프로딩함으로써 N-epitomizer를 다중 DNN을 지원하도록 확장한다. 평가 결과, N-epitomizer는 추론 정확도를 손상시키지 않으면서 이미지에서 예외적으로 높은 압축을 달성하며, 이는 각각 JPEG 압축 대비 21 $\times$ , 77 $\times$ , 192 $\times$ 더 높은 압축률을 나타냈고, 또한 의미론적 분할, 깊이 추정, 분류 각각에 대해 DNN-aware 이미지 압축의 최신기법인 GRACE보다 20 $\times$ , 55 $\times$ , 86 $\times$ 더 높은 압축률을 보였다. 본 결과는 N-epitomizer가 변동이 매우 큰 셀룰러 네트워크에서도 종단 간(end-to-end) 지연을 보장하는 최초의 의미론적 오프로딩 시스템으로서 강력한 잠재력을 지님을 보여준다.

모바일 애플리케이션에서의 딥 신경망(DNN) 추론 도입이 빠르게 확산됨에 따라, 제약된 기기 성능을 고려할 때 다양한 DNN 작업의 지연(latency) 요구사항을 충족하기 위한 엣지 보조 추론의 필요성이 강조된다. 그러나 광범위한 배치는 셀룰러 네트워크가 공유 자원을 기반으로 운영되면서 상향링크, 연산, 하향링크 단계 전반에서 동시 작업들이 경쟁하게 되는 특성으로 인해 지연이 신뢰성 있게 보장되지 못한다는 점 때문에 여전히 저해되고 있다. 여러 접근법이 제안되었음에도 불구하고, 그것들은 주로 특정 작업(예: 비디오 분석)을 대상으로 하며, 상향링크 중심 설계로 인해 다양한 DNN 작업을 지원하지 못한다. 본 논문은 RAN과 엣지 서버 간의 종단 간(end-to-end) 조정을 통해 지연이 매우 중요한 DNN 추론 요청을 처리하는 시스템 CORA를 제시한다. CORA는 각 DNN 작업의 특성에 따라 단계별 지연 예산(latency budget)을 동적으로 조정함으로써, 각 단계에서의 경합을 완화하기 위해 무선(radio) 및 연산(compute) 도메인 간의 자원 요구를 균형 있게 맞춘다. 그리고 이러한 단계별 예산에 맞추어 자원 스케줄러를 정렬함으로써, 종단 간 조정을 가능하게 하되 종단 호스트(end host)의 수정은 요구하지 않는다. 우리는 다양한 DNN 작업을 포함하는 over-the-air 테스트베드에서 CORA를 프로토타입으로 구현하고 평가한다. 그 결과 CORA는 지연 목표 내에서 3.2배 더 많은 요청을 처리하며, 기준선 대비 95번째 백분위(latency) 지연을 2.1배 감소시킨다.

인터넷의 현재 보안 환경은 근본적으로 프로토콜의 내재적 취약성으로 인해 여전히 크게 손상된 상태에 놓여 있다. 기존의 보안 솔루션들은 고립된 프로토콜 또는 특정 공격 벡터에만 한정하여 대응해 왔으며, 포괄적인 보안 프레임워크를 발전시키지는 못하였다. 본 연구에서 제안하는 인증서 중심(certificate-centric) 보안 오라클은 패러다임 전환을 제시하며, 보안 오라클은 프로토콜이 자신의 정체성을 견고하게 입증하고 통신을 진정성 있게 검증할 수 있도록 하는 범용 보안 서비스를 제공한다. 보안 오라클은 계층 간(cross-layer) 방식으로 동작하므로, 어떤 계층이든 어떤 프로토콜이든 이러한 서비스를 사용하려는 경우 개별적으로도 소규모 노력만으로 확장할 수 있다(예: 인증서 또는 서명을 운반하기 위한 몇 개의 필드 추가). 또한 기존 프로토콜들이 보안 오라클의 서비스를 사용하도록 확장되는 방식을 보여주는 몇 가지 사례 연구를 제시한다. 제안된 프레임워크의 실질적 실현 가능성을 입증하기 위해 ICMP와 DHCP에 대해 프로토타입 기반 실험을 수행하였다.

본 연구에서는 몰입형 3D 화상회의를 위한 새로운 통신 패러다임인 파라미터화 통신(parameterized communication)을 탐구한다. 이 방식은 과도한 체적 데이터의 교환 필요성을 제거함으로써 대역폭 사용을 극적으로 감소시킨다. 대신, 3D 공간에서 핵심 요소를 나타내는 유익한 파라미터의 간결한 집합을 추출하고, 해당 파라미터만 전송한 뒤 수신 측에서 장면을 재구성한다. 이러한 개념을 실제로 구현하기 위해 우리는 얼굴 파라미터 추출기와 신경 렌더링 기반 장면 생성기로 구성된 모바일 3D 회의 시스템 Empilo를 제시한다. 그러나 신경 렌더링은 명시적인 3D 모델 없이도 임의 시점을 합성하는 데 뛰어난 성능을 보이지만, 그 막대한 계산 요구량이 모바일 배치에 있어 주요 장애물로 작용한다. 이 문제를 극복하기 위해 우리는 truncated ray marching(절단 레이 마칭)이라 불리는 새로운 기법을 제안하며, 반복적인 MLP 추론을 얕은 신경망의 단일 패스(one-pass)로 대체함으로써 계산 오버헤드를 유의하게 줄인다. 또한 일관된 몰입감을 보장하기 위해, 신경 렌더러(neural-free) 기반의 경량 렌더러를 분리된 컴포넌트로 구조화하여 동적인 시점 변화에 대해 신속한 응답성을 제공하는 데 전념하도록 한다. 이러한 계산상의 혁신을 통해 Empilo는 모바일 자원에 전적으로 의존하면서도 프레임 생성 시간 30.3 ms와 재렌더링 지연 6.6 ms의 실시간 성능을 달성하며, 동시에 매우 낮은 비트레이트 24 kbps로 구동된다. 본 접근은 FaceTime 및 Zoom과 같은 플랫폼 수준의 접근성을 염두에 두고, 3D 화상회의의 실제 배치에 대한 유용한 지침을 제공한다.