테스트타임 연속 적응과 도메인 적응 프롬프트/엔트로피 학습

Test-Time Continual Domain Adaptation with Prompt and Entropy Regularization

연구 내용

비지도 도메인 적응과 테스트타임 프롬프트 튜닝에서 엔트로피 기반 안정화 및 연속 상황 성능 저하를 완화하는 적응형 학습 연구

도메인 분포가 변화하는 환경에서 라벨 없이 모델을 적응시키기 위한 학습 기법을 연구합니다. 비지도 도메인 적응에서는 입력 특징의 정렬과 지식 전이를 통해 일반화 성능을 확보합니다. 연속·테스트타임 시나리오에서는 프롬프트 튜닝 과정에서 나타나는 캘리브레이션 저하를 엔트로피 정규화로 완화하고, 엔트로피 최소화 기반 방법의 붕괴를 순위 제약 및 마스킹으로 제어합니다. 또한 이미지 토큰의 시맨틱 정보로 태스크 선택 의존성을 줄여 안정적인 연속 학습을 수행합니다.

관련 프로젝트

4건

연구 흐름

초기에는 2023년 연구에서 객체 검출 문제를 대상으로 단일-다중 소스 도메인 시프트를 다루는 정렬 기반 적응 구성을 검토했습니다. 이어서 2025년에는 연속 학습과 테스트타임 적응으로 확장하여, 이미지 토큰 시맨틱을 활용한 태스크 비의존 프롬프팅을 제안하고, 지배적 특징 차원에 의한 모달리티 갭을 해소하기 위한 차원 엔트로피 최대화로 캘리브레이션 성능을 개선했습니다. 마지막으로 2025년에는 예측 붕괴 문제를 완화하기 위해 예측 난이도의 순위를 유지하는 ranked entropy minimization을 연속 상황으로 확장하는 흐름을 보였습니다.

활용 가능성

활용 가능성은 알앤디써클 특화 AI 에이전트가 생성한 내용으로, 실제 연구 가능 여부는 연구실과의 논의가 필요합니다.

도메인 전이 비디오 분석
라벨 없는 실시간 적응 인식
테스트타임 캘리브레이션
지속형 비전 시스템
시각-언어 모델 신뢰도 향상
스트리밍 환경 성능 유지
불균형 데이터 환경 적응
태스크 비의존 학습 파이프라인
예측 붕괴 완화 모듈
미지 도메인 자동 보정