신경망(NN)은 다양한 작업에서 우수한 성능을 보이지만, 때때로 인간에게는 무의미한 결과를 생성하기도 한다. 대부분의 NN 모델은 주로 (입력, 출력) 쌍으로부터 “오로지” 학습하며, 경우에 따라 인간의 지식과 충돌한다. 다수의 연구는 훈련 중 출력 제약을 완화하여 인간의 지식을 주입하면 모델의 성능을 향상시키고 제약 위반을 줄일 수 있음을 보여준다. 동일한 프로그래밍 프레임워크 하에서 서로 다른 기존 알고리즘을 비교하려는 시도들이 여러 차례 있었으나, 출력 제약을 갖는 학습 알고리즘을 통일된 방식으로 분류한 선행 연구는 없었다. 우리의 기여는 다음과 같다. (1) 우리는 선행 연구를 세 가지 축—사용된 제약 손실의 유형(예: 확률적 소프트 로직, REINFORCE), 제약 위반 예시의 탐색 전략, 주 과제와 제약으로부터의 학습 신호를 통합하는 메커니즘—에 따라 분류한다. (2) 우리는 지속학습(continual-learning) 알고리즘에서 영감을 받아, 주 과제 및 제약 주입의 정보를 통합하는 새로운 알고리즘을 제안한다. (3) 또한 주 과제의 지표와 제약 위반을 동시에 고려하기 위한 지표로 -score를 제안한다. 철저한 분석을 제공하기 위해, 우리는 세 가지 NLP 과제인 자연어 추론(NLI), 합성 전환 예시(STE), 의미 역할 표지(SRL)에서 모든 알고리즘을 검토한다. 우리는 서로 다른 알고리즘들 중 높은 -score 달성과 관련된 핵심 요인들을 탐색하고 규명한다.
*본 초록은 AI를 통해 원문을 번역한 내용입니다. 정확한 내용은 하기 원문에서 확인해주세요.