연합학습 기반 일반화·강건성 학습

Federated Generalization and Robustness Learning

연구 내용

클라이언트별 데이터 불균형과 도메인 변화가 존재하는 환경에서 연합학습과 대조학습을 결합해 예측 성능을 안정화하는 연구

연합학습 환경에서는 비IID 데이터와 예시 망각이 누적되며 전역 모델의 일반화 성능이 저하될 수 있습니다. 이지형 연구실은 클라이언트별 망각 양상을 반영한 가중 평균으로 전역 모델 업데이트를 재구성하고, 도메인 차이를 흡수하지 못하는 표현 편향을 줄이기 위한 대조학습 기반 일반화 기법을 적용합니다. 또한 프로토타입 믹스업과 소스 지식 보존을 통해 라벨이 제한된 조건에서도 도메인 비무관 특성을 강화하며, 구조 인지 및 LLM 기반 반사실 데이터 증강으로 OOD 상황의 견고성을 확보하는 방향으로 연구를 수행합니다.

관련 프로젝트

4건

연구 흐름

초기에는 연합학습에서 발생하는 예시 망각이 테스트 성능을 저해하는 문제를 정리하고, 2022년에는 클라이언트 내 망각 예시를 식별해 가중 평균 업데이트에 반영하는 방식으로 개선을 시도했습니다. 이후 2025년에는 도메인 불일치 상황에서 소스 지식을 보존하며 일반화를 달성하기 위한 연합 도메인 일반화 연구로 확장했습니다. 동시에 2025년에는 비지도 도메인 일반화를 대조학습의 특성 억제 문제 관점에서 분석하고, 프로토타입 믹스업을 활용한 도메인 비무관 표현 학습으로 심화했습니다. 최근에는 NLP 과제에서 구조 인지 샘플과 LLM 주도 반사실 증강을 결합해 강건성과 일반화의 동시 개선을 검증하는 흐름을 이어가고 있습니다.

활용 가능성

활용 가능성은 알앤디써클 특화 AI 에이전트가 생성한 내용으로, 실제 연구 가능 여부는 연구실과의 논의가 필요합니다.

연합 학습 개인정보 보존 학습
예시 망각 완화 전역 업데이트
비IID 데이터 재가중 전략
OOD 견고 표현 학습
도메인 비무관 feature 정렬
프로토타입 믹스업 기반 비지도 일반화
LLM 기반 반사실 데이터 증강
소스 지식 보존 일반화
확산모델·생성모델 강건성 향상
다중 도메인 성능 유지 모니터링