사용자 명령 학습 펫 에이전트 및 그 동작 방법
USER COMMAND LEARNING PET AGENT AND OPERATION METHOD THEREOF
특허 요약
사용자 명령 학습 펫 에이전트(Pet Agent) 및 그 동작 방법이 개시된다. 일 실시예에 따른 사용자 명령 학습 펫 에이전트는, 컴퓨터가 판독 가능한 명령을 실행하도록 구현되는 적어도 하나의 프로세서를 포함하고, 상기 적어도 하나의 프로세서는, 상기 적어도 하나의 프로세서와 연결된 음성 센서 또는 이미지 센서를 이용하여 사용자의 명령을 인식하고, 상기 사용자의 명령이 기존에 학습된 명령인지 여부를 판단하는 인식 모듈; 상기 판단 결과 상기 사용자의 명령이 기존에 학습된 명령이 아닌 경우 상기 사용자의 명령에 응답하여 임의의 행동을 선택하는 학습 모듈; 및 상기 적어도 하나의 프로세서와 연결된 디스플레이에 표시되는 가상의 펫이 상기 선택된 행동을 수행하도록 제어하는 수행 모듈을 포함하고, 상기 판단 결과 상기 사용자의 명령이 기존에 학습된 명령이 아닌 경우, 상기 인식 모듈은 상기 펫이 수행하는 행동에 따른 상기 사용자의 보상을 상기 음성 센서 또는 이미지 센서를 이용하여 인식하며, 상기 학습 모듈은 상기 사용자의 보상을 이용하여 상기 사용자의 명령을 학습하는 것을 특징으로 한다.
청구항
번호청구항
11

제7항에 있어서,상기 사용자의 보상을 상기 음성 센서 또는 이미지 센서를 이용하여 인식하는 단계는, 상기 사용자의 보상을 긍정적 보상 또는 부정적 보상 중 어느 하나로 분류하여 인식하는 것을 특징으로 하는 사용자 명령 학습 펫 에이전트의 동작 방법.

12

제7항에 있어서,상기 판단 결과 상기 사용자의 명령이 기존에 학습된 명령인 경우, 상기 펫의 행동들 중 가장 가치가 높은 행동을 상기 사용자의 명령에 대응하는 최적의 행동으로 선택하는 단계; 및 상기 가상의 펫이 상기 선택된 행동을 수행하도록 제어하는 단계를 더 포함하는 것을 특징으로 하는 사용자 명령 학습 펫 에이전트의 동작 방법.

1

컴퓨터로 구현되는 사용자 명령 학습 펫 에이전트(Pet Agent)에 있어서,컴퓨터가 판독 가능한 명령을 실행하도록 구현되는 적어도 하나의 프로세서를 포함하고, 상기 적어도 하나의 프로세서는, 상기 적어도 하나의 프로세서와 연결된 음성 센서 또는 이미지 센서를 이용하여 사용자의 명령을 인식하고, 상기 사용자의 명령이 기존에 학습된 명령인지 여부를 판단하는 인식 모듈; 상기 판단 결과 상기 사용자의 명령이 기존에 학습된 명령이 아닌 경우 상기 사용자의 명령에 응답하여 임의의 행동을 선택하는 학습 모듈; 및 상기 적어도 하나의 프로세서와 연결된 디스플레이에 표시되는 가상의 펫이 상기 선택된 행동을 수행하도록 제어하는 수행 모듈을 포함하고, 상기 판단 결과 상기 사용자의 명령이 기존에 학습된 명령이 아닌 경우, 상기 인식 모듈은 상기 펫이 수행하는 행동에 따른 상기 사용자의 보상을 상기 음성 센서 또는 이미지 센서를 이용하여 인식하며, 상기 학습 모듈은 상기 사용자의 보상을 목적 함수로 이용하여 상기 펫이 수행하는 임의의 행동의 가치를 계산하여 상기 사용자의 명령에 대응하는 최적의 행동을 학습하는 것을 특징으로 하고, 상기 학습 모듈은, 상기 사용자의 명령에 응답하는 상기 임의의 행동을 선택하고 상기 펫이 상기 선택된 행동을 수행하도록 제어하며, 상기 펫이 수행하는 행동에 따른 상기 사용자의 보상을 인식하는 것을 반복적으로 실행하여, 상기 펫의 행동들에 대응하는 가치들을 계산 및 유지함으로써, 상기 펫의 행동들 중 가장 가치가 높은 행동을 상기 사용자의 명령에 대응하는 최적의 행동으로 학습하는 것을 특징으로 하는 사용자 명령 학습 펫 에이전트.

2

삭제

3

삭제

4

제1항에 있어서,상기 학습 모듈은, DQN(Deep Q-learning) 기법을 이용하여 상기 사용자의 명령을 학습하는 것을 특징으로 하는 사용자 명령 학습 펫 에이전트.

5

제1항에 있어서,상기 인식 모듈은, 상기 사용자의 보상을 상기 음성 센서 또는 이미지 센서를 이용하여 인식하는 과정에서, 상기 사용자의 보상을 긍정적 보상 또는 부정적 보상 중 어느 하나로 분류하여 인식하는 것을 특징으로 하는 사용자 명령 학습 펫 에이전트.

6

제1항에 있어서,상기 학습 모듈은, 상기 판단 결과 상기 사용자의 명령이 기존에 학습된 명령인 경우, 상기 펫의 행동들 중 가장 가치가 높은 행동을 상기 사용자의 명령에 대응하는 최적의 행동으로 선택하는 것을 특징으로 하는 사용자 명령 학습 펫 에이전트.

7

컴퓨터가 판독 가능한 명령을 실행하도록 구현되는 적어도 하나의 프로세서를 포함하는 사용자 명령 학습 펫 에이전트(Pet Agent)의 동작 방법에 있어서,상기 적어도 하나의 프로세서와 연결된 음성 센서 또는 이미지 센서를 이용하여 사용자의 명령을 인식하는 단계; 상기 사용자의 명령이 기존에 학습된 명령인지 여부를 판단하는 단계; 상기 판단 결과 상기 사용자의 명령이 기존에 학습된 명령이 아닌 경우 상기 사용자의 명령에 응답하여 임의의 행동을 선택하는 단계; 및 상기 적어도 하나의 프로세서와 연결된 디스플레이에 표시되는 가상의 펫이 상기 선택된 행동을 수행하도록 제어하는 단계를 포함하고, 상기 판단 결과 상기 사용자의 명령이 기존에 학습된 명령이 아닌 경우, 상기 펫이 수행하는 행동에 따른 상기 사용자의 보상을 상기 음성 센서 또는 이미지 센서를 이용하여 인식하는 단계; 및 상기 사용자의 보상을 목적 함수로 이용하여 상기 펫이 수행하는 임의의 행동의 가치를 계산하여 상기 사용자의 명령에 대응하는 최적의 행동을 학습하는 단계를 더 포함하는 것을 특징으로 하며, 상기 사용자의 명령에 대응하는 최적의 행동을 학습하는 것은, 상기 사용자의 명령에 응답하는 상기 임의의 행동을 선택하는 단계, 상기 펫이 상기 선택된 행동을 수행하도록 제어하는 단계, 및 상기 펫이 수행하는 행동에 따른 상기 사용자의 보상을 인식하는 단계를 반복적으로 실행하여, 상기 펫의 행동들에 대응하는 가치들을 계산 및 유지함으로써, 상기 펫의 행동들 중 가장 가치가 높은 행동을 상기 사용자의 명령에 대응하는 최적의 행동으로 학습하는 것을 특징으로 하는 사용자 명령 학습 펫 에이전트의 동작 방법.

8

삭제

9

삭제

10

제7항에 있어서,상기 사용자의 명령에 대응하는 최적의 행동을 학습하는 단계는, DQN(Deep Q-learning) 기법을 이용하여 상기 사용자의 명령을 학습하는 것을 특징으로 하는 사용자 명령 학습 펫 에이전트의 동작 방법.

13

컴퓨터가 판독 가능한 명령을 실행하도록 구현되는 적어도 하나의 프로세서를 포함하는 사용자 명령 학습 펫 에이전트(Pet Agent)의 동작 방법을 실행시키기 위해 컴퓨터 판독 가능한 기록 매체에 기록된 컴퓨터 프로그램에 있어서, 상기 사용자 명령 학습 펫 에이전트의 동작 방법은, 상기 적어도 하나의 프로세서와 연결된 음성 센서 또는 이미지 센서를 이용하여 사용자의 명령을 인식하는 단계; 상기 사용자의 명령이 기존에 학습된 명령인지 여부를 판단하는 단계; 상기 판단 결과 상기 사용자의 명령이 기존에 학습된 명령이 아닌 경우 상기 사용자의 명령에 응답하여 임의의 행동을 선택하는 단계; 및 상기 적어도 하나의 프로세서와 연결된 디스플레이에 표시되는 가상의 펫이 상기 선택된 행동을 수행하도록 제어하는 단계를 포함하고, 상기 판단 결과 상기 사용자의 명령이 기존에 학습된 명령이 아닌 경우, 상기 펫이 수행하는 행동에 따른 상기 사용자의 보상을 상기 음성 센서 또는 이미지 센서를 이용하여 인식하는 단계; 및 상기 사용자의 보상을 목적 함수로 이용하여 상기 펫이 수행하는 임의의 행동의 가치를 계산하여 상기 사용자의 명령에 대응하는 최적의 행동을 학습하는 단계를 더 포함하는 것을 특징으로 하며, 상기 사용자의 명령에 대응하는 최적의 행동을 학습하는 것은, 상기 사용자의 명령에 응답하는 상기 임의의 행동을 선택하는 단계, 상기 펫이 상기 선택된 행동을 수행하도록 제어하는 단계, 및 상기 펫이 수행하는 행동에 따른 상기 사용자의 보상을 인식하는 단계를 반복적으로 실행하여, 상기 펫의 행동들에 대응하는 가치들을 계산 및 유지함으로써, 상기 펫의 행동들 중 가장 가치가 높은 행동을 상기 사용자의 명령에 대응하는 최적의 행동으로 학습하는 것을 특징으로 하는 기록 매체에 기록된 컴퓨터 프로그램.