도메인 일반화(Domain Generalization, DG)는 여러 개의 알려진 소스 도메인에서 학습하여, 알려지지 않은 타깃 도메인에서도 잘 일반화할 수 있는 모델을 학습하는 것을 목표로 한다. DG에서 핵심적인 접근법 중 하나는 도메인 불변 표현(domain-invariant representations)을 생성하는 인코더를 학습하는 것이다. 그러나 이러한 접근법은 다양한 도메인의 데이터가 서로 다른 클라이언트에 분산되어 있는 연합 도메인 일반화(Federated Domain Generalization, FDG)에서는 적용할 수 없다. 본 논문에서는 Federated Learning via On-server Matching Gradient (FedOMG)로 명명된 새로운 접근을 제안하며, 이는 분산된 도메인으로부터 \emph{효율적으로 도메인 정보를 활용}할 수 있다. 구체적으로, 우리는 로컬 그래디언트를 분산된 모델에 대한 정보로 활용하여, 그래디언트 내적(gradient inner product) 최대화를 통해 모든 도메인에 걸친 불변 그래디언트 방향을 찾는다. 그 장점은 두 가지이다. 1) FedOMG는 추가적인 통신 비용을 전혀 발생시키지 않으면서 중앙 서버에서 분산된 모델들의 특성을 집계할 수 있고, 2) FedOMG는 많은 기존의 FL/FDG 방법들과 직교적(orthogonal)이라서, 이들과 원활하게 통합함으로써 추가적인 성능 향상을 이룰 수 있다. 다양한 설정에서의 광범위한 실험 평가를 통해, 다른 FL/FDG 기준선(baselines) 대비 FedOMG의 견고성을 입증한다. 우리의 방법은 네 개의 FL 벤치마크 데이터셋(MNIST, EMNIST, CIFAR-10, CIFAR-100)과 세 개의 FDG 벤치마크 데이터셋(PACS, VLCS, OfficeHome)에서 최근의 SOTA 기준선을 능가한다.
*본 초록은 AI를 통해 원문을 번역한 내용입니다. 정확한 내용은 하기 원문에서 확인해주세요.