본 연구에서는 DRO(distributionally robust optimization) 문제로 새로운 일관적 위험(coherent risk)를 제시한다. DRO 문제는 위험함수의 worst-case를 최소화하는 모수를 찾는 문제이며 위험기피적(risk-averse) 최적화와 관련있다.
한편 DRO 문제은 Coherent risk의 한 종류인 CVaR(conditional value at risk)로 표현됨이 알려져 있다. 우리는 이 점에 착안하여 Bassett et al. (2004)이 제안한 -risk를 이용한 General Pessimistic Risk를 활용하여 DRO문제를 정의하고자 하였다.
구체적으로 본 연구에서는 Uniform Pessimistic Risk로 표현되는 집합 를 찾고 UPR을 DRO문제로 유도한다. 다음으로 일반적인 Distortion function을 모형화하기 위해 베타혼합분포(beta mixture distribution)를 사용하고 (Rousseau, 2010) 그에 대응되는 DRO문제의 표현형을 연구한다.
우리는 인과추론 도입하여 분포의 이질성에 강건한 신뢰성을 가진 AI 개발을 목표로 한다. 우리 연구는 모형의 개발, 데이터와 모형 강건성을 진단도구 개발, 그리고 이미지와 텍스트 데이터의 적용할 수 있는 AI 응용모형개발을 포함한다. 우리는 분포강건최적화와 불변위험최적화 관점에서 효과적인 인과추론방법론을 제안하며, 모형의 강건성과 데이터 이질성 진단에 필요...
분포강건최적화
인과추론
심층학습
기계학습
분포 변화
불변위험최소화
표현학습
예측불변
3
2022년 5월-2025년 2월
|61,917,000원
분포강건학습을 이용한 강건한 VAE 모형 연구
우리는 본 연구에서 VAE와 GAN의 어떤 모형 특성으로 이미지 생성모형의 성능차이가 나타나는지 밝히고 이미지 데이터의 특성에서 기인하는 원인과 VAE 모형의 근본적인 한계를 조사한다.본 연구과제는 생성모형으로서 이미지 복원력 측면에서 VAE가 가지는 한계를 극복하는 방법을 제시하고자 하며, 그 방안을 모색하기 위해 다음과 같은 이론적 연구를 수행한다.- ...
분포강건최적화
변분자기생성모형
일관위험
데이터내삽
경험적 위험함수
정보이론
4
주관|
2022년 5월-2025년 2월
|500,000,000원
인과추론을 이용한 신뢰가능한 AI 모형 연구
우리는 근본적으로 데이터를 훈련하고 적용하는 데이터 분포의 이질성에 강건한 모형을 학습하기 위한 방법으로 상관성(correlation)에 근거한 학습방법론의 한계를 극복하는 방향으로 설정하였다. 이를 위해 IID 프로세스에 기반한 전통적인 학습모형이 데이터로부터 발견할 수 있는, 혹은 적절한 intervention을 이용하여 발견할 수 있는 인과구조를 기존의 정보와 효과적으로 결합하는 방법론 개발을 제안한다.
우리연구는 크게 세가지 분야로 구성되어 있다.
1) 불변위험에 기반한 우리는 확률분포의 학습과 함께 Causality, Confounding, Sample selection bias 과 같은 확률분포 외의 추가적인 정보를 더 학습하여 신뢰성 있는 기계학습 모형을 개발하고자 한다. 우리는 정확한 인과추론을 하는 알고리즘을 직접 사용하는 대신 Confounding 효과를 제거하는 기존의 작업을 Distributionally Robust Optimization과 Invariant Risk Minimization 방법을 통해 효과적으로 적용한다.
2) 데이터의 이질성과 학습된 모형의 분포 강건성을 진단하다는 도구를 개발한다. 분포의 이질성을 측정하는 도구로서 통계량을 제안하고 그것의 이론적인 특성을 밝힌다. 그리고 모형의 강건성을 측정하는 절차를 연구한다.
3) 객체인식과 텍스트 학습모형에 인과성 기반 분포강건학습 알고리즘을 개발한다. 각 데이터 도메인에서 정의할 수 있는 유용한 인과구조를 식별하고 개발된 신뢰성있는 기계학습모형을 적용한다.
연구의 전제적인 방향은 다음과 같다.
1) 볼록 다면체의 경계에서 Gradient 방향과 함수의 특성을 조사하고, 적용 가능한 일차근사 최적화 알고리즘을 제안한다. 본 연구에서는 Barrier function을 이용한 Interior point method에서 일차근사를 고려한다.
2) 제약조건 내에서의 미분불능점이 최적화에 미치는 영향을 조사하고 Interior point method에서 일차근사 알고리즘의 수렴성을 조사한다.
3) 어떤 함수족에 대한 근사로서, Perturbation을 이용하여 미분불능점의 계산을 단순화하였을 때, 근사이론을 연구하고, 최종적으로 기존의 제안되었던 일차근사방법들의 이론적 성질을 연구한다.