연구 영역
기본 정보
논문·특허
구성원
Preprint|
인용수 7
·2022
Perception Prioritized Training of Diffusion Models
Jooyoung Choi, Jungbeom Lee, Chaehun Shin, Sungwon Kim, Hyunwoo Kim, Sungroh Yoon
arXiv (Cornell University)
초록

확산 모델은, 서로 다른 수준의 노이즈로 손상된 잡음 데이터를 해당 손실 항들의 가중합을 최적화함으로써(즉, denoising score matching loss) 복원하는 방법을 학습한다. 본 논문에서는 특정 노이즈 수준으로 손상된 데이터를 복원하는 일이, 모델이 풍부한 시각 개념을 학습하기 위한 적절한 전위 과제(pretext task)를 제공함을 보인다. 우리는 학습 중 다른 노이즈 수준들보다 이러한 노이즈 수준을 우선시하도록, 목적 함수의 가중치 설계를 재구성함으로써 이를 제안한다. 제안하는 가중치 스킴의 단순한 재설계는 데이터셋, 아키텍처 및 샘플링 전략과 무관하게 확산 모델의 성능을 유의미하게 향상시킴을 보인다.

*본 초록은 AI를 통해 원문을 번역한 내용입니다. 정확한 내용은 하기 원문에서 확인해주세요.

키워드
WeightingNoise (video)Computer scienceMatching (statistics)Function (biology)Noise reductionTask (project management)PerceptionArtificial intelligenceTraining (meteorology)
타입
Preprint
IF / 인용수
- / 7
게재 연도
2022