연합학습(Federated Learning, FL)은 네트워크를 통해 원시 데이터를 전송하지 않음으로써 이를 제거하지만, 전달되는 모델 매개변수로부터 발생하는 개인정보 침해에 대해서는 여전히 취약하다. 이러한 문제를 해결하기 위해 차등 프라이버시(Differential Privacy, DP)가 흔히 사용된다. 그러나 계층적 집계가 서로 다른 계층에서의 노이즈 주입 결정들을 결합하고, 하위 네트워크(subnetwork) 전반에 걸쳐 신뢰 모델이 이질적인 다중 계층 네트워크에서의 FL에 대한 DP의 영향은 충분히 이해되지 않았다. 이 공백을 메우기 위해, 우리는 이러한 네트워크에서 프라이버시와 성능을 공동으로 최적화하기 위한 DP 강화 연합학습 방법론인 다중 계층 연합학습과 다중 계층 차등 프라이버시(Multi-Tier Differential Privacy)를 개발한다( M2FDP ). M2FDP의 핵심 원칙 중 하나는 확립된 엣지/포그 컴퓨팅 계층(예: 엣지 디바이스, 중간 노드, 그리고 클라우드 서버에 이르기까지의 기타 계층) 전반에서 각 하위 네트워크의 신뢰 모델에 따라 DP 노이즈 주입을 조정하는 것이다. 우리는 비볼록(non-convex) 문제 설정 하에서 M2FDP의 수렴 거동에 대한 포괄적인 분석을 수행하여, 학습 과정이 네트워크 계층, 신뢰 모델, 목표 프라이버시 수준에 의존하는 유한한 정상성(stationarity) 갭으로 하위 선형(sublinearly) 속도로 수렴하는 매개변수 튜닝 조건을 규명한다. 또한 이러한 관계를 활용하여, 원하는 수렴 및 프라이버시 기준을 충족하는 동시에 에너지, 지연, 정상성 갭을 최소화하도록 로컬 모델 학습의 특성을 조정하는 M2FDP용 적응형 제어 알고리즘을 개발하는 방법을 제시한다. 후속 수치 평가는 M2FDP가 서로 다른 프라이버시 예산과 시스템 구성에 대해 기존 방법(baselines) 대비 이러한 지표들에서 상당한 개선을 달성함을 보여준다.
*본 초록은 AI를 통해 원문을 번역한 내용입니다. 정확한 내용은 하기 원문에서 확인해주세요.