| 번호 | 청구항 |
|---|---|
| 12 | 컴퓨터 프로그램을 저장하고 있는 컴퓨터 판독 가능 기록매체로서,상기 컴퓨터 프로그램은, 프로세서에 의해 실행되면,감정 예측의 후보가 될 수 있는 분류 클래스가 각각의 감정 클래스 토큰으로 정의된 프롬프트를 생성하는 단계;학습을 위한 텍스트와 상기 감정 클래스 토큰을 언어 모델에 입력시키는 단계; 및상기 감정 클래스 토큰 별로 상기 언어 모델로부터 출력된 은닉 벡터에 기초하여 스코어를 산출하는 단계를 포함하는 언어 모델 학습 방법을 상기 프로세서가 수행하도록 하기 위한 명령어를 포함하는 컴퓨터 판독 가능한 기록매체. |
| 1 | 감정 예측의 후보가 될 수 있는 분류 클래스가 각각의 감정 클래스 토큰으로 정의된 프롬프트를 생성하는 단계;학습을 위한 텍스트와 상기 감정 클래스 토큰을 언어 모델에 입력시키는 단계; 및상기 감정 클래스 토큰 별로 상기 언어 모델로부터 출력된 은닉 벡터에 기초하여 스코어를 산출하는 단계를 포함하는 언어 모델 학습 방법. |
| 2 | 제1항에 있어서,상기 학습을 위한 텍스트와 상기 감정 클래스 토큰을 언어 모델에 입력시키는 단계는,특별 분류 토큰을 상기 감정 클래스 토큰의 앞에 추가하는 단계를 포함하는 언어 모델 학습 방법. |
| 3 | 제2항에 있어서,상기 언어 모델로부터 출력된 은닉 벡터에 기초하여 스코어를 산출하는 단계는,상기 감정 클래스 토큰의 은닉 벡터와 상기 특별 분류 토큰의 은닉 벡터 간의 유사도 확률값을 상기 스코어로 산출하는 단계를 포함하는 언어 모델 학습 방법. |
| 4 | 제1항에 있어서,상기 언어 모델은, 어텐션 마스크를 포함하며,상기 어텐션 마스크를 통해 상기 프롬프트의 정보를 선택적으로 입력 받아, 상기 학습을 위한 텍스트로 전달하는 단계를 더 포함하는 언어 모델 학습 방법. |
| 5 | 제1항에 있어서,상기 학습을 위한 텍스트의 정답 클래스 토큰을 특정한 확률로 특수 토큰인 마스크 토큰으로 대체한 후 상기 언어 모델에 입력시키는 단계; 및상기 언어 모델로부터 출력된 상기 마스크 토큰으로 대체된 상기 정답 클래스 토큰의 은닉 벡터를 이용하여, 대응되는 감정 클래스 토큰을 찾는 단계를 더 포함하는 언어 모델 학습 방법. |
| 6 | 감정 예측의 후보가 될 수 있는 분류 클래스가 각각의 감정 클래스 토큰으로 정의된 프롬프트를 생성하는 프롬프트 생성 모듈; 및학습을 위한 텍스트와 상기 감정 클래스 토큰을 언어 모델에 입력시키고, 상기 감정 클래스 토큰 별로 상기 언어 모델로부터 출력된 은닉 벡터에 기초하여 스코어를 산출하여, 상기 스코어에 기반하여 상기 언어 모델에 대해 훈련을 수행하기 위한 언어 모델 훈련 모듈을 포함하는 언어 모델 학습 장치. |
| 7 | 제6항에 있어서,상기 언어 모델 훈련 모듈은,특별 분류 토큰을 상기 감정 클래스 토큰의 앞에 추가하는 언어 모델 학습 장치. |
| 8 | 제7항에 있어서,상기 언어 모델 훈련 모듈은,상기 감정 클래스 토큰의 은닉 벡터와 상기 특별 분류 토큰의 은닉 벡터 간의 유사도 확률값을 상기 스코어로 산출하는 언어 모델 학습 장치. |
| 9 | 제6항에 있어서,상기 언어 모델은, 어텐션 마스크를 포함하며,상기 어텐션 마스크는, 상기 프롬프트의 정보를 선택적으로 입력 받아, 상기 학습을 위한 텍스트로 전달하는 언어 모델 학습 장치. |
| 10 | 제6항에 있어서,상기 언어 모델 훈련 모듈은,노이즈 제거 학습을 위한 노이즈 제거 학습 모듈을 더 포함하며,상기 노이즈 제거 학습 모듈은,상기 학습을 위한 텍스트의 정답 클래스 토큰을 특정한 확률로 특수 토큰인 마스크 토큰으로 대체한 후 상기 언어 모델에 입력시키고, 상기 언어 모델로부터 출력된 상기 마스크 토큰으로 대체된 상기 정답 클래스 토큰의 은닉 벡터를 이용하여, 대응되는 감정 클래스 토큰을 찾는 언어 모델 학습 장치. |
| 11 | 감정 예측 장치에 있어서,미리 학습된 언어 모델이 저장된 메모리; 및감정을 예측하고자 하는 임의의 텍스트 데이터를 입력 받고, 상기 언어 모델을 이용하여, 상기 텍스트 데이터로부터 감정을 예측한 결과를 출력하는 프로세서를 포함하며,상기 프로세서는,입력된 상기 텍스트 데이터로부터, 각각의 감정 클래스 토큰으로 정의된 프롬프트를 생성하는 프롬프트 생성 모듈을 포함하고,상기 언어 모델은,상기 텍스트 데이터와 상기 감정 클래스 토큰을 입력 받아, 상기 감정 클래스 토큰 별로 상기 언어 모델로부터 출력된 은닉 벡터에 기초하여 스코어를 산출하여, 상기 스코어에 기초하여 감정을 예측하도록 학습된 것인 감정 예측 장치. |
| 13 | 컴퓨터 판독 가능 기록매체에 저장되어 있는 컴퓨터 프로그램으로서,상기 컴퓨터 프로그램은, 프로세서에 의해 실행되면,감정 예측의 후보가 될 수 있는 분류 클래스가 각각의 감정 클래스 토큰으로 정의된 프롬프트를 생성하는 단계;학습을 위한 텍스트와 상기 감정 클래스 토큰을 언어 모델에 입력시키는 단계; 및상기 감정 클래스 토큰 별로 상기 언어 모델로부터 출력된 은닉 벡터에 기초하여 스코어를 산출하는 단계를 포함하는 언어 모델 학습 방법을 상기 프로세서가 수행하도록 하기 위한 명령어를 포함하는 컴퓨터 프로그램. |