Energy-Based Model과 Diffusion을 이용한 OOD·이상탐지 및 생성평가 연구

Energy-Based and Diffusion Models for Out-of-Distribution Detection and Generative Evaluation

연구 내용

정규화 제약 autoencoder와 EBM 학습을 통해 OOD 경계를 학습하고, diffusion 기반 생성·학습을 결합해 이상탐지 성능과 평가 신뢰도를 향상시키는 연구

이상탐지와 OOD 검출에서 outlier의 likelihood 및 생성 과정의 불일치가 성능 저하로 이어진다는 문제를 다룹니다. normalized autoencoder는 음성 샘플의 재구성을 억제해 out-of-distribution 구간에서 확률 추정이 안정적으로 작동하도록 설계합니다. 또한 manifold 기반 diffusion recovery를 통해 데이터의 저차원 구조 주변에서 정보성이 높은 negative sample을 만들고, energy function으로 경계를 학습합니다. 더 나아가 생성 모델로 현실적인 outlier를 합성하는 평가 프로토콜을 제안하고, 에너지 기반 학습과 diffusion/sampler의 공동 학습 목표를 수립해 MCMC 의존을 완화하는 방향을 포함합니다.

관련 프로젝트

0건

연구 흐름

초기에는 autoencoder 기반 outlier detection에서 normalization이 갖는 역할을 분석하고, normalized autoencoder로 OOD에서의 확률 추정 실패를 보정하는 접근을 수행했습니다. 이후 energy-based model을 저차원 manifold 구조와 결합하여 negative sample을 데이터의 의미 있는 변동 모드 근처에서 생성하도록 설계했으며, manifold diffusion recovery로 OOD 경계 학습을 강화했습니다. 동시에 생성 모델을 이용해 outlier를 더 현실적으로 탐색하는 평가-via-generation을 도입해 기존 평가의 공정성을 점검했습니다. 최근에는 diffusion 모델을 학습 가능한 sampler로 치환하고, energy와 diffusion의 joint/minimax 학습 및 최대 엔트로피 IRL 정식화를 통해 효율과 샘플 품질을 함께 개선하는 흐름으로 확장되었습니다.

활용 가능성

활용 가능성은 알앤디써클 특화 AI 에이전트가 생성한 내용으로, 실제 연구 가능 여부는 연구실과의 논의가 필요합니다.

Out-of-Distribution Detection
이상탐지 성능 향상
OOD 견고성 벤치마크 평가
Energy 기반 학습 안정화
Diffusion 기반 샘플러 설계
재구성 기반 확률 모델링
데이터 밀도 비율 추정
학습 가능한 negative sample 생성
생성-판별 공동 최적화
불확실성 기반 의사결정