최근 자동 라벨링 프레임워크가 다양한 산업 전반의 많은 응용 분야에 적용되고 있다. 의사 라벨링(pseudo-labeling)은 가장 일반적인 자동 라벨링 방법이며, 이 방법은 의사 라벨을 할당하여 비라벨 데이터를 라벨 데이터로 변환하는 것이다. 그러나 의사 라벨링을 위한 완벽한 모델이 존재하지 않는 한, 비라벨 데이터로부터 얻는 추가 라벨 데이터에는 항상 노이즈 라벨이 포함된다. 하지만 이러한 문제는 아직 많은 연구자들에 의해 충분히 다루어지지 않았다. 본 연구에서는 라벨 노이즈의 영향을 완화하기 위해 전이 행렬(transition matrix)을 사용하는 노이즈에 강인한 자동 라벨링 프레임워크를 제안한다. 이 프레임워크는 크게 세 단계로 구성된다: (1) 비라벨 데이터에 대한 의사 라벨 생성, (2) 추정된 전이 벡터와 모델 출력 간의 KL-divergence를 기반으로 노이즈 샘플을 식별, (3) 노이즈 샘플을 비라벨 데이터로, 클린 샘플을 라벨 데이터로 사용하여 반지도 학습(semi-supervised learning) 방식으로 최종 모델을 학습한다. 또한 초기 모델의 정확도에 따라 의사 라벨링을 통해 추가되는 노이즈의 정도가 얼마나 달라지는지를 보여준다. 실험 결과, 제안된 방법은 표준 분류 벤치마크(예: CIFAR-10 및 CIFAR-100)와 실제 데이터셋(예: Clothing100K, Food-101)에서 모두 노이즈 라벨을 처리하는 데 있어 최신(state-of-the-art) 방법들보다 우수함을 입증하였다.

충분한 라벨 데이터를 확보하기 어렵기 때문에, 자기지도학습(SSL)은 최근 시계열 이상 탐지 분야에서 많은 연구자들의 큰 관심을 받고 있다. SSL 모델 중 하나인 생성적 적대 신경망(GAN) 기반 오토인코더 모델은 이상 탐지에서 우수한 성능을 보이지만, 지나치게 민감한 경향이 있어(즉, 정상 데이터를 작은 이상값으로 비정상으로 예측) 문제를 일으킬 수 있다. 본 논문에서는 일부 센서에서 평균으로부터 크게 벗어난 값을 갖는, 잘못 예측된 정상 데이터가 존재함을 확인하였다. 우리는 이러한 데이터를 이상치(outlier)라고 명명한다. 이러한 데이터는 학습 데이터셋 내에서 소수이기 때문에, 모델이 이를 재구성하는 데 어려움을 겪고 결과적으로 비정상으로 잘못 예측한다. 이러한 발견을 바탕으로, 상관 특징에 기반한 클러스터링을 통해 이상치를 찾아내고 이를 효율적인 학습에 활용하는 견고한 자기지도 이상 탐지 프레임워크를 제안한다. 본 방법의 성능을 평가하기 위해 실제 환경의 펌프 데이터셋에서 다양한 딥러닝 기반 이상 탐지 방법들과 비교한다. 그 결과, 제안한 방법이 우수함을 입증하였다. 본 방법을 통해 우리는 이상 데이터에 대한 민감도는 유지하면서, 작은 이상값을 갖는 정상 데이터에 대한 민감도는 낮출 수 있다.

반도체 제조 공정에서 전기 다이 선별(Electrical Die Sorting, EDS)은 웨이퍼 위의 각 칩에 대해 품질을 평가하기 위해 사용되는 후공정이다. EDS 시험의 결과는 웨이퍼 빈 맵(Wafer Bin Map, WBM)으로 시각화되며, 결함이 있는 웨이퍼를 식별하는 것과 같은 품질 관리 목적에 활용된다. 최근에는 웨이퍼의 결함을 식별하기 위한 유력한 접근으로 딥러닝이 부상하였다. 그러나 반도체 산업에서의 결함에 관한 데이터는 여전히 부족하다. 본 논문에서는 라벨이 없는 데이터에 대해 삼중항 손실(triplet loss)을 활용하는 준지도 학습 방법인 TripletMatch를 제안한다. 제안된 방법은 FixMatch 프레임워크를 확장하고, 결정 경계를 완화하기 위해 Mixup을 고려한다. 실험 결과는 TripletMatch가 다양한 최근 딥러닝 기반 방법 및 손실 함수들에 비해 우수함을 보여준다.

분포 외(out-of-distribution, OOD) 탐지는, 주어진 테스트 샘플이 학습 분포로부터 벗어난 것인지 여부를 식별하는 것으로, 딥 분류기를 실제 응용 환경에 배치하는 데 필수적이다. 기존의 OOD 탐지 최신 방법들은 분류 네트워크의 내부 특징을 활용함으로써 이 문제를 다룬다. 그러나 우리는 이러한 탐지 방법들이 훈련 분포와 근접한 형태로부터 생성된 어려운 OOD 이미지(즉, 훈련 분포에서 가까운 샘플)에 대해 본질적으로 탐지에 어려움을 겪는다는 점을 발견했으며, 순진한 softmax 기반 기준선조차도 그것들보다 성능이 더 우수하였다. 이에 동기부여되어, 우리는 분류기의 softmax 확률을 추가로 보정(calibration)하여 어려운 경우와 쉬운 경우 모두에서 높은 OOD 탐지 성능을 달성하기 위한, 간단하면서도 효과적인 훈련 계획을 제안한다. 구체적으로, 학습 과정에서 일관성 정규화(consistency regularization)와 자기지도학습(self-supervised) 손실을 최적화할 것을 제안한다. 우리의 실험 결과는 다양한 OOD 탐지 시나리오에서 해당 단순 방법이 우수함을 보여준다.

최근 자동 라벨링 프레임워크가 다양한 산업 전반의 많은 응용 분야에 적용되고 있다. 의사 라벨링(pseudo-labeling)은 가장 일반적인 자동 라벨링 방법이며, 이 방법은 의사 라벨을 할당하여 비라벨 데이터를 라벨 데이터로 변환하는 것이다. 그러나 의사 라벨링을 위한 완벽한 모델이 존재하지 않는 한, 비라벨 데이터로부터 얻는 추가 라벨 데이터에는 항상 노이즈 라벨이 포함된다. 하지만 이러한 문제는 아직 많은 연구자들에 의해 충분히 다루어지지 않았다. 본 연구에서는 라벨 노이즈의 영향을 완화하기 위해 전이 행렬(transition matrix)을 사용하는 노이즈에 강인한 자동 라벨링 프레임워크를 제안한다. 이 프레임워크는 크게 세 단계로 구성된다: (1) 비라벨 데이터에 대한 의사 라벨 생성, (2) 추정된 전이 벡터와 모델 출력 간의 KL-divergence를 기반으로 노이즈 샘플을 식별, (3) 노이즈 샘플을 비라벨 데이터로, 클린 샘플을 라벨 데이터로 사용하여 반지도 학습(semi-supervised learning) 방식으로 최종 모델을 학습한다. 또한 초기 모델의 정확도에 따라 의사 라벨링을 통해 추가되는 노이즈의 정도가 얼마나 달라지는지를 보여준다. 실험 결과, 제안된 방법은 표준 분류 벤치마크(예: CIFAR-10 및 CIFAR-100)와 실제 데이터셋(예: Clothing100K, Food-101)에서 모두 노이즈 라벨을 처리하는 데 있어 최신(state-of-the-art) 방법들보다 우수함을 입증하였다.

충분한 라벨 데이터를 확보하기 어렵기 때문에, 자기지도학습(SSL)은 최근 시계열 이상 탐지 분야에서 많은 연구자들의 큰 관심을 받고 있다. SSL 모델 중 하나인 생성적 적대 신경망(GAN) 기반 오토인코더 모델은 이상 탐지에서 우수한 성능을 보이지만, 지나치게 민감한 경향이 있어(즉, 정상 데이터를 작은 이상값으로 비정상으로 예측) 문제를 일으킬 수 있다. 본 논문에서는 일부 센서에서 평균으로부터 크게 벗어난 값을 갖는, 잘못 예측된 정상 데이터가 존재함을 확인하였다. 우리는 이러한 데이터를 이상치(outlier)라고 명명한다. 이러한 데이터는 학습 데이터셋 내에서 소수이기 때문에, 모델이 이를 재구성하는 데 어려움을 겪고 결과적으로 비정상으로 잘못 예측한다. 이러한 발견을 바탕으로, 상관 특징에 기반한 클러스터링을 통해 이상치를 찾아내고 이를 효율적인 학습에 활용하는 견고한 자기지도 이상 탐지 프레임워크를 제안한다. 본 방법의 성능을 평가하기 위해 실제 환경의 펌프 데이터셋에서 다양한 딥러닝 기반 이상 탐지 방법들과 비교한다. 그 결과, 제안한 방법이 우수함을 입증하였다. 본 방법을 통해 우리는 이상 데이터에 대한 민감도는 유지하면서, 작은 이상값을 갖는 정상 데이터에 대한 민감도는 낮출 수 있다.

반도체 제조 공정에서 전기 다이 선별(Electrical Die Sorting, EDS)은 웨이퍼 위의 각 칩에 대해 품질을 평가하기 위해 사용되는 후공정이다. EDS 시험의 결과는 웨이퍼 빈 맵(Wafer Bin Map, WBM)으로 시각화되며, 결함이 있는 웨이퍼를 식별하는 것과 같은 품질 관리 목적에 활용된다. 최근에는 웨이퍼의 결함을 식별하기 위한 유력한 접근으로 딥러닝이 부상하였다. 그러나 반도체 산업에서의 결함에 관한 데이터는 여전히 부족하다. 본 논문에서는 라벨이 없는 데이터에 대해 삼중항 손실(triplet loss)을 활용하는 준지도 학습 방법인 TripletMatch를 제안한다. 제안된 방법은 FixMatch 프레임워크를 확장하고, 결정 경계를 완화하기 위해 Mixup을 고려한다. 실험 결과는 TripletMatch가 다양한 최근 딥러닝 기반 방법 및 손실 함수들에 비해 우수함을 보여준다.

분포 외(out-of-distribution, OOD) 탐지는, 주어진 테스트 샘플이 학습 분포로부터 벗어난 것인지 여부를 식별하는 것으로, 딥 분류기를 실제 응용 환경에 배치하는 데 필수적이다. 기존의 OOD 탐지 최신 방법들은 분류 네트워크의 내부 특징을 활용함으로써 이 문제를 다룬다. 그러나 우리는 이러한 탐지 방법들이 훈련 분포와 근접한 형태로부터 생성된 어려운 OOD 이미지(즉, 훈련 분포에서 가까운 샘플)에 대해 본질적으로 탐지에 어려움을 겪는다는 점을 발견했으며, 순진한 softmax 기반 기준선조차도 그것들보다 성능이 더 우수하였다. 이에 동기부여되어, 우리는 분류기의 softmax 확률을 추가로 보정(calibration)하여 어려운 경우와 쉬운 경우 모두에서 높은 OOD 탐지 성능을 달성하기 위한, 간단하면서도 효과적인 훈련 계획을 제안한다. 구체적으로, 학습 과정에서 일관성 정규화(consistency regularization)와 자기지도학습(self-supervised) 손실을 최적화할 것을 제안한다. 우리의 실험 결과는 다양한 OOD 탐지 시나리오에서 해당 단순 방법이 우수함을 보여준다.

성명 분리(전체 이름을 성과 이름으로 분할)는 다인종 국가에서 번거로운 작업이 아니다. 이는 성과 이름을 분할하는 절차가 민족성에 따라 다르기 때문이다. 말레이시아에는 여러 주요 민족 집단이 존재하므로, 말레이시아인의 전체 이름을 성과 이름으로 구분하는 일은 도전 과제에 해당한다. 본 연구에서는 딥러닝을 활용한 말레이시아어 이름 분리를 위한 2단계 프레임워크를 개발한다. 1단계에서는 전체 이름의 민족성을 예측한다. 예측을 위해 문자 임베딩을 사용하는 long short-term memory 네트워크 기반의 모델과 순환 신경망(recurrent neural network)을 제안한다. 예측된 민족성을 바탕으로 2단계에서는 규칙 기반 알고리즘을 사용하여 전체 이름을 성과 이름으로 분리한다. 제안한 모델의 성능을 다양한 머신러닝 모델과 비교 평가한 결과, 평균 9%의 향상으로 이들보다 우수함을 입증하였다. 또한, 추가 데이터셋을 사용한 제안 모델의 전이학습 및 미세조정은 평균 최대 7%까지 향상을 가져온다.

산업 환경에서 결함 데이터를 수집하는 데에는 상당한 시간과 비용이 소요되므로, 이러한 문제를 해결하기 위해 비지도 학습 기반 이상 탐지 알고리즘이 개발되고 있다. 그러나 임펠러를 생산하는 주조 공정에서의 이상 탐지에 관한 연구는 주로 지도 학습 접근법에 집중되어 왔다.따라서 본 논문에서는 주조 공정에서의 이상 탐지를 위한 비지도 딥러닝 모델을 제안한다. Efficient AD에 사용되는 오토인코더는 업샘플링 재구성 방법으로 인해 임펠러 데이터에서 미세한 수준의 결함 패턴을 탐지하는 데 한계가 있다. 이에 우리는 학습 가능한 업샘플링 방식인 전치 컨볼루션(transposed convolution) 계층을 활용하는 오토인코더로 전환하여 미세 결함에 대한 탐지를 향상시킨다. 또한 향후 연구에서 다양한 비지도 이상 탐지 알고리즘의 픽셀 수준 국소화 성능을 평가할 수 있도록, 임펠러 이상에 대한 픽셀 정밀(precision) 정답 영역을 제공한다. 실험 결과는 임펠러 데이터셋을 통해, 탐지 정확도와 추론 효율성뿐 아니라 특히 픽셀 수준 국소화에서의 우수성을 보여준다.

목적: 분포 외(OOD) 탐지는 결함을 식별하고 품질 관리를 보장하는 데 있어 반도체 제조 공정에서 중요한 역할을 한다. 그러나 다양한 실제 결함 샘플을 수집하는 일은 비용이 많이 들고 어려워 모델 성능을 제한한다. 본 연구는 Deep Convolutional Generative Adversarial Networks(DCGAN)를 사용하여 합성 결함 이미지를 생성하고, 이를 보조 데이터셋으로서 Outlier Exposure(OE) 프레임워크에 통합함으로써 OOD 탐지를 향상시킨다.방법: WM 811K 웨이퍼 데이터셋을 사용하여 DCGAN으로 합성 결함 이미지를 생성하고 이를 OE 프레임워크에 통합한다. 제안된 접근법은 Maximum Softmax Probability(MSP) 및 표준 OE 모델과 비교하여 그 효과를 평가한다. 성능은 FPR95, AUROC, AUPR로 측정한다. 또한 DCGAN 학습 에폭이 이미지 품질과 탐지 성능에 미치는 영향을 조사한다.결과: 실험 결과, DCGAN을 사용한 OE가 기준 방법보다 유의하게 우수함을 나타냈다. DCGAN 생성 데이터를 통합하면 FPR95는 감소하고 AUROC 및 AUPR은 증가하여 OOD 탐지 능력이 향상됨을 보여준다. 또한 DCGAN 학습을 최적화하는 방식이 합성 데이터의 품질과 전체 모델 성능을 어떻게 개선하는지에 대한 점을 강조한다.결론: 본 연구는 DCGAN으로 생성된 결함 이미지가 반도체 OOD 탐지에서 데이터 희소성 문제를 효과적으로 완화함을 확인한다. 향후 연구에서는 대안적인 생성 모델(예: StyleGAN, VQ-VAE)을 탐색하고, 클래스 불균형 문제를 해결하여 강건성과 신뢰성을 더욱 향상시켜야 한다.

목적: 본 연구의 목적은 강재 산업을 개선하기 위해 강재 제품의 품질을 향상시키는 방안을 제안하는 것이다. 방법: 데이터 증강 기법과 영역-관심사 풀링(region-of-interest pooling) 기법을 통해 강판 표면의 결함 데이터 검출을 개선하고자 시도하였다. 본 연구에서 사용한 도구는 물체 검출 모델, 영역-관심사 풀링, Mixup 데이터 증강의 세 가지 차원으로 분류된다. 결과: 본 연구의 결과는 다음과 같다. 강 표면의 결함 검출 성능을 향상시키기 위해 Mixup과 Precise RoI Pooling을 사용하였다. 실험을 통해 Mixup이 강 표면 결함 검출에 미치는 영향을 조사한 결과, Mixup을 적용할 때 특정 클래스의 검출 성능이 저하됨을 확인하였다. 이 문제를 해결하기 위해, Mixup을 적용하지 않고도 모델의 검출 성능을 향상시키기 위해 Precise RoI pooling을 적용하는 것이 효과적임을 확인하였으며, 이후 Precise RoI pooling과 Mixup을 통합하여 모든 클래스에 대해 강 표면 결함의 검출 성능을 향상시키고자 하였다. 제안된 방법은 한 장당 0.01초가 소요되는 것으로 확인되었는데, 이는 한 장당 6초가 소요되는 육안 검사보다 빠르다. 결론: 강판 표면 결함의 향상된 검출