도메인 적응과 확률적 표현학습 기반 데이터 분석

Domain adaptation and probabilistic representation learning for data analytics

연구 내용

도메인 분포 변화가 있는 상황에서 지식 증류와 확률적 모델을 이용해 견고한 표현과 예측을 만드는 연구

라벨 데이터의 분포가 학습 시점과 운영 시점에서 달라지는 상황을 전제로, 도메인 적응과 표현학습을 결합한 분석 방법을 개발합니다. BERT 기반 지식 증류와 unsupervised domain adaptation을 통해 라벨 없이도 도메인 전이를 수행하는 절차를 구성하며, 회귀 문제에서는 견고한 two-layer regression network로 적응 성능을 강화합니다. 또한 probabilistic orthogonal-signal-corrected principal component analysis로 차원축소 과정에서 불확실성을 고려하는 방향을 탐색합니다. NLP 영역에서는 Transformer-결합 VAE에서 posterior collapse를 완화하기 위한 학습 전략을 적용하고, 정보이론 기반 데이터 분석 방법론도 함께 연구합니다.

관련 프로젝트

0건

연구 흐름

초기에는 NLP에서 Transformer 표현에 VAE를 결합해 생성적 표현을 학습하되, KL vanishing을 완화하는 학습 설계로 재구성과 표현 품질을 확보했습니다. 이후 도메인 분포 변화에 대응하기 위해 knowledge distillation을 활용한 unsupervised domain adaptation으로 라벨 의존도를 낮추는 연구로 확장했습니다. 2023년에는 확률적 PCA 계열로 차원축소 단계의 모델 선택과 희소성 관점을 도입하며 분석력을 높였습니다. 2024년에는 회귀형 도메인 적응을 위한 견고한 네트워크를 제안했고, 2025년에는 정보이론 관점의 데이터 애널리틱스 방법들을 정리·확장하는 흐름으로 이어졌습니다.

활용 가능성

활용 가능성은 알앤디써클 특화 AI 에이전트가 생성한 내용으로, 실제 연구 가능 여부는 연구실과의 논의가 필요합니다.

분포 이동 문제 대응 학습
라벨 절감형 도메인 적응
차원축소 기반 노이즈 제거
확률적 특징 추출 파이프라인
NLP 표현학습 및 재구성
도메인 불변 임베딩 생성
희소 PCA 기반 변수 선택
회귀형 견고 적응 모델
정보이론 기반 데이터 탐색
교차 도메인 성능 진단