분산형 연합 학습(Decentralized Federated Learning, DFL)은 로컬 데이터를 보유한 클라이언트들이 동료(peer-to-peer) 방식으로 협력하여 일반화된 모델을 학습할 수 있게 한다. 본 논문에서는 DFL에서 각각 중요 과제를 별도로 해결해 온 두 연구 흐름을 통합한다: (i) 데이터 이질성 완화를 위한 그래디언트 추적 기법과 (ii) 클라이언트들 간 자원의 상이한 가용성을 고려하는 방법이다. 우리는 (i) 클라이언트별 그래디언트 계산 주파수와 (ii) 이질적이며 비대칭적인 통신 주파수를 허용함으로써 일반적인 방향 그래프에 대해 이 두 요소를 통합하는 최초의 DFL 알고리즘인 ()를 제안한다. 우리는 그래디언트 추정의 분산과 클라이언트의 그래디언트 다양성에 대해 완화된 가정을 바탕으로, 중간중간에 클라이언트 참여가 이루어지더라도 방향 그래프에서 GT에 대해 합의(consensus)와 최적성(optimality) 보장을 제공하는 방식으로 방법론의 엄밀한 수렴 분석을 수행한다. 영상 분류 데이터셋에 대한 수치 실험을 통해, 잘 알려진 GT 기준 방법들과 비교하여 의 효율성을 입증한다.
*본 초록은 AI를 통해 원문을 번역한 내용입니다. 정확한 내용은 하기 원문에서 확인해주세요.