연합 학습(Federated learning, FL)은 데이터 프라이버시를 보존하면서 분산된 엣지 디바이스를 통해 협력적으로 모델을 학습할 수 있게 해주지만, 비IID(non-independent and identically distributed) 데이터 분포와 부분적 클라이언트 참여로 인해 발생하는 클라이언트 드리프트로 인해 성능이 흔히 저하된다. 분산된 업데이트들 사이의 방향성 비일관성을 억제하기 위한 원칙적인 메커니즘의 필요성에 동기부여되어, 우리는 Kuramoto 발진기 모델의 위상 동기화 동역학에서 영감을 받은 새로운 FL 알고리즘인 FedKuramoto를 제안한다. FedKuramoto에서 각 클라이언트 업데이트는 전역 업데이트 방향으로부터의 각도 편차로 정의되는 위상을 갖는 발진기로 해석된다. 제안하는 방법은 위상 제약 투영(phase-constrained projection)을 통해 위상 일관성을 강제하며, 추가적인 통신 오버헤드 없이 복원력으로 작용하는 일관성 인지 모멘텀(coherence-aware momentum)을 도입한다. 다양한 벤치마크와 서로 다른 이질성 및 참여 비율 조건에서 수행한 광범위한 실험 결과, FedKuramoto는 기존의 FL 알고리즘에 비해 수렴을 일관되게 가속하고 정확도를 향상시키는 것으로 나타났다. 이러한 결과는 비선형 동역학 시스템에서 동기화 메커니즘을 도입하는 것이 분산 학습을 위한 효과적이고 견고한 설계 패러다임을 제공함을 시사한다.
*본 초록은 AI를 통해 원문을 번역한 내용입니다. 정확한 내용은 하기 원문에서 확인해주세요.