연구 영역
기본 정보
논문·특허
과제
구성원
Preprint|
인용수 1
·2025
Federated Domain Generalization with Data-free On-server Matching Gradient
Nguyen, Trong-Binh, Minh-Duong Nguyen, Jinsun Park, Quoc‐Viet Pham, Won–Joo Hwang
ArXiv.org
초록

도메인 일반화(Domain Generalization, DG)는 여러 개의 알려진 소스 도메인에서 학습하여, 알려지지 않은 타깃 도메인에서도 잘 일반화할 수 있는 모델을 학습하는 것을 목표로 한다. DG에서 핵심적인 접근법 중 하나는 도메인 불변 표현(domain-invariant representations)을 생성하는 인코더를 학습하는 것이다. 그러나 이러한 접근법은 다양한 도메인의 데이터가 서로 다른 클라이언트에 분산되어 있는 연합 도메인 일반화(Federated Domain Generalization, FDG)에서는 적용할 수 없다. 본 논문에서는 Federated Learning via On-server Matching Gradient (FedOMG)로 명명된 새로운 접근을 제안하며, 이는 분산된 도메인으로부터 \emph{효율적으로 도메인 정보를 활용}할 수 있다. 구체적으로, 우리는 로컬 그래디언트를 분산된 모델에 대한 정보로 활용하여, 그래디언트 내적(gradient inner product) 최대화를 통해 모든 도메인에 걸친 불변 그래디언트 방향을 찾는다. 그 장점은 두 가지이다. 1) FedOMG는 추가적인 통신 비용을 전혀 발생시키지 않으면서 중앙 서버에서 분산된 모델들의 특성을 집계할 수 있고, 2) FedOMG는 많은 기존의 FL/FDG 방법들과 직교적(orthogonal)이라서, 이들과 원활하게 통합함으로써 추가적인 성능 향상을 이룰 수 있다. 다양한 설정에서의 광범위한 실험 평가를 통해, 다른 FL/FDG 기준선(baselines) 대비 FedOMG의 견고성을 입증한다. 우리의 방법은 네 개의 FL 벤치마크 데이터셋(MNIST, EMNIST, CIFAR-10, CIFAR-100)과 세 개의 FDG 벤치마크 데이터셋(PACS, VLCS, OfficeHome)에서 최근의 SOTA 기준선을 능가한다.

*본 초록은 AI를 통해 원문을 번역한 내용입니다. 정확한 내용은 하기 원문에서 확인해주세요.

키워드
GeneralizationMatching (statistics)Computer scienceDomain (mathematical analysis)Data miningDatabaseMathematicsStatistics
타입
Preprint
IF / 인용수
- / 1
게재 연도
2025