심층 신경망(DNN)은 비용이 큰 시뮬레이션을 대체하는 대리모델(surrogate model)로서 상당한 잠재력을 지닌다. DNN에서 높은 정확도를 달성하는 것은 효과적인 대리모델링에 있어 중요하다. 그러나 이러한 목표를 달성하려면 광범위한 라벨된 데이터셋의 이용 가능성이 필요하며, 이는 시간이 소요되는 노력이 요구된다. 따라서 라벨이 없는 데이터를 활용하여 DNN 정확도를 향상시키는 반지도(semi-supervised) 회귀 방법론을 개발하는 것이 필수적이다. 반지도 학습에서 자주 사용되는 의사 라벨(pseudo-labeling) 기법은 DNN 정확도를 효과적으로 향상시키는 것으로 입증되어 왔다. 그러나 이러한 방법은 확인 편향(confirmation bias)에 취약하며, 이는 잘못된 의사 라벨을 생성함으로써 DNN 정확도에 부정적인 영향을 미칠 수 있다. 이 문제를 완화하기 위해, 우리는 메타 의사 라벨(meta pseudo labels)의 개념에서 착안한 메타 의사 라벨 회귀(meta pseudo label regression, MPLR) 프레임워크를 제안한다. 제안한 MPLR 접근법의 효과를 검증하기 위해, 이를 지도학습(supervised learning) 모델, 공동학습(co-training) 회귀 모델, 그리고 자기- 및 상호-교수(self- and mutual-teaching) 모델과 성능을 비교한다. 또한 본 연구에서는 양자 연쇄 레이저(quantum cascade laser) 데이터셋을 사용하며, 이는 특정 출력에 대해 요구되는 광범위한 계산 시간 때문에 반지도 회귀 기반 대리모델링이 필요한 상황을 잘 보여주는 사례이다. MPLR 프레임워크는 드롭아웃(dropout)과 같은 모델 노이즈 기법과 통합될 수 있으며, 그 결과 모델 성능이 크게 향상된다. 우리의 결과는 제안한 MPLR 방법이 성능 향상과 계산 속도 측면에서 다른 반지도 회귀 모델들보다 우수함을 보여준다. 구체적으로, MPLR은 작은 데이터 및 비교적 큰 데이터의 두 영역에서 각각 드롭아웃이 없는 지도학습 모델에 비해 모델 성능 지표의 평균 향상도가 5.430 % 및 4.911 %에 달한다. 이러한 개선은 해당 데이터 영역에서 각각 1.794 % 및 1.500 %의 향상만을 보인 자기- 및 상호-교수 모델에서 관찰된 것보다 현저히 더 크다. 또한 공동학습 회귀 모델의 성능은 지도학습 모델보다 악화된다.

*본 초록은 AI를 통해 원문을 번역한 내용입니다. 정확한 내용은 하기 원문에서 확인해주세요.