| 번호 | 청구항 |
|---|---|
| 1 | 1 이상의 프로세서 및 1 이상의 메모리를 포함하는 컴퓨팅장치에서 수행하는 목표작업에 대한 핵심자질을 학습하기 위한 전이학습 방법으로서,상기 목표작업은 복수의 라벨 가운데 어느 하나의 라벨로 라벨링된 복수의 작업데이터를 포함하고,사전학습된 학습모델에 상기 목표작업에 포함된 복수의 작업데이터를 입력하여 상기 복수의 작업데이터 각각에 대한 임베딩데이터를 도출하는 임베딩단계;상기 복수의 임베딩데이터 각각에 대하여 상기 작업데이터에 라벨링될 수 있는 복수의 라벨 각각에 대한 확률을 산출하고, 상기 복수의 임베딩데이터 별로 산출된 복수의 라벨 각각에 대한 확률, 및 해당 임베딩데이터에 상응하는 작업데이터에 라벨링된 실제 라벨에 기초하여 제1손실함수를 도출하는 제1손실함수도출단계;상기 복수의 임베딩데이터 가운데 임의의 제1임베딩데이터 및 임의의 제2임베딩데이터를 포함하는 복수의 임베딩데이터 쌍 각각에 대하여 상기 제1임베딩데이터 및 상기 제2임베딩데이터에 대한 코사인 유사도를 연산하고, 상기 제1임베딩데이터 및 상기 제2임베딩데이터 각각에 상응하는 작업데이터에 라벨링된 라벨의 동일 여부, 및 상기 코사인 유사도에 기초하여 제2손실함수를 도출하는 제2손실함수도출단계;상기 작업데이터에 라벨링될 수 있는 복수의 라벨 각각에 대한 라벨임베딩데이터를 도출하고, 복수의 임베딩데이터 각각에 대하여 해당 임베딩데이터 및 해당 임베딩데이터에 상응하는 작업데이터의 라벨에 대한 라벨임베딩데이터의 코사인 유사도를 고려하여 제3손실함수를 도출하는 제3손실함수도출단계; 및상기 제1손실함수, 상기 제2손실함수 및 상기 제3손실함수에 기초하여 종합손실함수를 산출하고, 상기 종합손실함수의 값을 최소화하도록 상기 사전학습된 학습모델을 상기 목표작업으로 학습시키되, 상기 종합손실함수에 기초하여 동일한 라벨로 라벨링된 복수의 작업데이터에 상응하는 상기 복수의 임베딩데이터 각각에 대한 벡터의 방향이 서로 동일한 방향으로 위치하도록 학습시켜 복수의 라벨 각각에 대한 자질을 학습시키는 모델학습단계;를 포함하는, 전이학습 방법. |
| 2 | 삭제 |
| 3 | 삭제 |
| 4 | 청구항 1에 있어서,상기 제2손실함수는,상기 임베딩데이터 쌍에 포함된 상기 제1임베딩데이터에 상응하는 작업데이터에 라벨링된 라벨 및 상기 제2임베딩데이터에 상응하는 작업데이터에 라벨링된 라벨이 동일한 경우에 상기 제1임베딩데이터 및 상기 제2임베딩데이터의 유사도가 높을수록 상기 제2손실함수의 값이 작아지고, 동일하지 않은 경우에 상기 제1임베딩데이터 및 상기 제2임베딩데이터의 유사도가 낮을수록 상기 제2손실함수의 값이 작아지는, 전이학습 방법. |
| 5 | 청구항 1에 있어서,상기 제3손실함수도출단계는,해당 임베딩데이터 및 해당 임베딩데이터에 해당하는 작업데이터의 라벨에 상응하는 라벨임베딩데이터에 대한 코사인 유사도를 연산하고, 상기 코사인 유사도가 높을수록 상기 제3손실함수의 값이 작아지는 상기 제3손실함수를 도출하는, 전이학습 방법. |
| 6 | 삭제 |
| 7 | 목표작업에 대한 핵심자질을 학습하기 위한 전이학습 방법을 수행하는, 1 이상의 프로세서 및 1 이상의 메모리를 포함하는 컴퓨팅장치로서,상기 목표작업은 복수의 라벨 가운데 어느 하나의 라벨로 라벨링된 복수의 작업데이터를 포함하고,상기 컴퓨팅장치는,사전학습된 학습모델에 상기 목표작업에 포함된 복수의 작업데이터를 입력하여 상기 복수의 작업데이터 각각에 대한 임베딩데이터를 도출하는 임베딩단계;상기 복수의 임베딩데이터 각각에 대하여 상기 작업데이터에 라벨링될 수 있는 복수의 라벨 각각에 대한 확률을 산출하고, 상기 복수의 임베딩데이터 별로 산출된 복수의 라벨 각각에 대한 확률, 및 해당 임베딩데이터에 상응하는 작업데이터에 라벨링된 실제 라벨에 기초하여 제1손실함수를 도출하는 제1손실함수도출단계;상기 복수의 임베딩데이터 가운데 임의의 제1임베딩데이터 및 임의의 제2임베딩데이터를 포함하는 복수의 임베딩데이터 쌍 각각에 대하여 상기 제1임베딩데이터 및 상기 제2임베딩데이터에 대한 코사인 유사도를 연산하고, 상기 제1임베딩데이터 및 상기 제2임베딩데이터 각각에 상응하는 작업데이터에 라벨링된 라벨의 동일 여부, 및 상기 코사인 유사도에 기초하여 제2손실함수를 도출하는 제2손실함수도출단계;상기 작업데이터에 라벨링될 수 있는 복수의 라벨 각각에 대한 라벨임베딩데이터를 도출하고, 복수의 임베딩데이터 각각에 대하여 해당 임베딩데이터 및 해당 임베딩데이터에 상응하는 작업데이터의 라벨에 대한 라벨임베딩데이터의 코사인 유사도를 고려하여 제3손실함수를 도출하는 제3손실함수도출단계; 및상기 제1손실함수, 상기 제2손실함수 및 상기 제3손실함수에 기초하여 종합손실함수를 산출하고, 상기 종합손실함수의 값을 최소화하도록 상기 사전학습된 학습모델을 상기 목표작업으로 학습시키되, 상기 종합손실함수에 기초하여 동일한 라벨로 라벨링된 복수의 작업데이터에 상응하는 상기 복수의 임베딩데이터 각각에 대한 벡터의 방향이 서로 동일한 방향으로 위치하도록 학습시켜 복수의 라벨 각각에 대한 자질을 학습시키는 모델학습단계;를 수행하는, 컴퓨팅장치. |
| 8 | 1 이상의 프로세서 및 1 이상의 메모리를 포함하는 컴퓨팅장치에서 컴퓨터 프로그램을 실행하여, 상기 컴퓨팅장치에 의해 수행되는 목표작업에 대한 핵심자질을 학습하기 위한 전이학습 방법을 구현하기 위한 컴퓨터-판독가능 매체로서, 상기 컴퓨터-판독가능 매체는, 상기 컴퓨팅장치로 하여금 이하의 단계들을 수행하도록 하는 명령들을 저장하며,상기 목표작업은 복수의 라벨 가운데 어느 하나의 라벨로 라벨링된 복수의 작업데이터를 포함하고,상기 이하의 단계들은,사전학습된 학습모델에 상기 목표작업에 포함된 복수의 작업데이터를 입력하여 상기 복수의 작업데이터 각각에 대한 임베딩데이터를 도출하는 임베딩단계;상기 복수의 임베딩데이터 각각에 대하여 상기 작업데이터에 라벨링될 수 있는 복수의 라벨 각각에 대한 확률을 산출하고, 상기 복수의 임베딩데이터 별로 산출된 복수의 라벨 각각에 대한 확률, 및 해당 임베딩데이터에 상응하는 작업데이터에 라벨링된 실제 라벨에 기초하여 제1손실함수를 도출하는 제1손실함수도출단계;상기 복수의 임베딩데이터 가운데 임의의 제1임베딩데이터 및 임의의 제2임베딩데이터를 포함하는 복수의 임베딩데이터 쌍 각각에 대하여 상기 제1임베딩데이터 및 상기 제2임베딩데이터에 대한 코사인 유사도를 연산하고, 상기 제1임베딩데이터 및 상기 제2임베딩데이터 각각에 상응하는 작업데이터에 라벨링된 라벨의 동일 여부, 및 상기 코사인 유사도에 기초하여 제2손실함수를 도출하는 제2손실함수도출단계;상기 작업데이터에 라벨링될 수 있는 복수의 라벨 각각에 대한 라벨임베딩데이터를 도출하고, 복수의 임베딩데이터 각각에 대하여 해당 임베딩데이터 및 해당 임베딩데이터에 상응하는 작업데이터의 라벨에 대한 라벨임베딩데이터의 코사인 유사도를 고려하여 제3손실함수를 도출하는 제3손실함수도출단계; 및상기 제1손실함수, 상기 제2손실함수 및 상기 제3손실함수에 기초하여 종합손실함수를 산출하고, 상기 종합손실함수의 값을 최소화하도록 상기 사전학습된 학습모델을 상기 목표작업으로 학습시키되, 상기 종합손실함수에 기초하여 동일한 라벨로 라벨링된 복수의 작업데이터에 상응하는 상기 복수의 임베딩데이터 각각에 대한 벡터의 방향이 서로 동일한 방향으로 위치하도록 학습시켜 복수의 라벨 각각에 대한 자질을 학습시키는 모델학습단계;를 포함하는, 컴퓨터-판독가능 매체. |