아동 발달 검사 분석 방법 및 장치
METHOD AND DEVICE FOR ANALYZING CHILDREN DEVELOPMENT TEST
특허 요약
본 발명은 아동 발달 검사 분석 방법에 관한 것이다. 아동 발달 검사 분석 방법은, 복수의 이미지 센서를 이용하여 제1 사용자와 제2 사용자의 모션을 촬영하여 영상 데이터를 생성하는 단계, 마이크 센서를 이용하여 제1 사용자와 제2 사용자의 음성을 녹음하여 음성 데이터를 생성하는 단계, 영상 데이터를 기초로 제1 사용자의 신체 주요 지점으로부터 제1 세트의 복수의 키포인트를 추출하는 단계, 추출된 제1 세트의 복수의 키포인트를 연결하여 제1 사용자에 대응하는 제1 프레임을 결정하는 단계, 음성 데이터를 기초로 제1 사용자의 제1 음성 스펙트로그램을 추출하는 단계 및 제1 프레임 및 제1 음성 스펙트로그램을 이용하여 제1 사용자의 행동 및 감정을 탐지하는 단계를 포함한다.
청구항
번호청구항
7

제1항에 있어서,상기 제1 프레임 및 상기 제1 음성 스펙트로그램을 이용하여 상기 제1 사용자의 행동 및 감정을 탐지하는 단계는,상기 추출된 제1 음성 스펙트로그램을 감정을 분석하도록 학습된 제3 기계학습 모델에 제공하여 상기 제1 사용자의 감정을 나타내는 제3 결과값을 생성하는 단계;를 포함하는 아동 발달 검사 분석 방법.

1

적어도 하나의 프로세서에 의해 수행되는 아동 발달 검사 분석 방법으로서,복수의 이미지 센서를 이용하여 제1 사용자와 제2 사용자의 모션(motion)을 촬영하여 영상 데이터를 생성하는 단계;마이크 센서를 이용하여 상기 제1 사용자와 상기 제2 사용자의 음성을 녹음하여 음성 데이터를 생성하는 단계;상기 영상 데이터를 기초로 상기 제1 사용자의 신체 주요 지점으로부터 제1 세트의 복수의 키포인트(key point)를 추출하는 단계;상기 추출된 제1 세트의 복수의 키포인트를 연결하여 상기 제1 사용자에 대응하는 제1 프레임을 결정하는 단계;상기 음성 데이터를 기초로 상기 제1 사용자의 제1 음성 스펙트로그램(audio spectrogram)을 추출하는 단계; 및상기 제1 프레임 및 상기 제1 음성 스펙트로그램을 이용하여 상기 제1 사용자의 행동 및 감정을 탐지하는 단계;를 포함하는 아동 발달 검사 분석 방법.

2

제1항에 있어서,상기 영상 데이터를 기초로 상기 제2 사용자의 신체 주요 지점으로부터 제2 세트의 복수의 키포인트를 추출하는 단계;상기 추출된 제2 세트의 복수의 키포인트를 연결하여 상기 제2 사용자에 대응하는 제2 프레임을 결정하는 단계; 및상기 제1 프레임을 구성하는 제1 키포인트와 제2 키포인트 사이의 거리 및 상기 제2 프레임을 구성하는 제3 키포인트와 제4 키포인트 사이의 거리를 기초로 상기 제1 프레임 또는 상기 제2 프레임을 성인 클래스 또는 아동 클래스로 분류하는 단계;를 더 포함하는 아동 발달 검사 분석 방법.

3

제1항에 있어서,상기 영상 데이터를 기초로 상기 제2 사용자의 신체 주요 지점으로부터 제2 세트의 복수의 키포인트를 추출하는 단계;상기 추출된 제2 세트의 복수의 키포인트를 연결하여 상기 제2 사용자에 대응하는 제2 프레임을 결정하는 단계; 및상기 제1 프레임의 크기 및 상기 제2 프레임의 크기를 비교하여 상기 제1 프레임 또는 상기 제2 프레임을 성인 클래스 또는 아동 클래스로 분류하는 단계;를 더 포함하는 아동 발달 검사 분석 방법.

4

제1항에 있어서,상기 음성 데이터를 기초로 상기 제2 사용자의 제2 음성 스펙트로그램을 추출하는 단계; 및상기 제1 음성 스펙트로그램 및 상기 제2 음성 스펙트로그램을 비교하여 상기 제1 사용자 및 상기 제2 사용자를 성인 클래스 또는 아동 클래스로 분류하는 단계;를 더 포함하는 아동 발달 검사 분석 방법.

5

제1항에 있어서,상기 제1 프레임 및 상기 제1 음성 스펙트로그램을 이용하여 상기 제1 사용자의 행동 및 감정을 탐지하는 단계는,상기 제1 프레임 중 상기 제1 사용자의 몸통에 대응하는 제1 세부 프레임을 추출하는 단계;상기 추출된 제1 세부 프레임의 시간에 따른 제1 좌표값을 추출하는 단계; 및상기 추출된 제1 좌표값을 행동을 분석하도록 학습된 제1 기계학습 모델에 제공하여 상기 제1 사용자의 행동을 나타내는 제1 결과값을 생성하는 단계;를 포함하는 아동 발달 검사 분석 방법.

6

제1항에 있어서,상기 제1 프레임 및 상기 제1 음성 스펙트로그램을 이용하여 상기 제1 사용자의 행동 및 감정을 탐지하는 단계는,상기 제1 프레임 중 상기 제1 사용자의 얼굴에 대응하는 제2 세부 프레임을 추출하는 단계;상기 추출된 제2 세부 프레임의 시간에 따른 제2 좌표값을 추출하는 단계; 및상기 추출된 제2 좌표값을 표정을 분석하도록 학습된 제2 기계학습 모델에 제공하여 상기 제1 사용자의 감정을 나타내는 제2 결과값을 생성하는 단계;를 포함하는 아동 발달 검사 분석 방법.

8

제7항에 있어서,상기 제1 프레임 및 상기 제1 음성 스펙트로그램을 이용하여 상기 제1 사용자의 행동 및 감정을 탐지하는 단계는,상기 제1 프레임 중 상기 제1 사용자의 얼굴에 대응하는 제2 세부 프레임을 추출하는 단계;상기 추출된 제2 세부 프레임의 시간에 따른 제2 좌표값을 추출하는 단계;상기 추출된 제2 좌표값을 표정을 분석하도록 학습된 제2 기계학습 모델에 제공하여 상기 제1 사용자의 감정을 나타내는 제2 결과값을 생성하는 단계; 및상기 생성된 제2 결과값 및 상기 제3 결과값을 앙상블 모델에 제공하여 상기 제1 사용자의 감정을 나타내는 제4 결과값을 생성하는 단계;를 포함하는 아동 발달 검사 분석 방법.

9

제1항에 있어서,상기 복수의 이미지 센서는,적어도 하나의 고정형 카메라 센서 및 적어도 하나의 PTZ 카메라 센서를 포함하는, 아동 발달 검사 분석 방법.

10

제1항 내지 제9항 중 어느 한 항에 따른 방법을 컴퓨터에서 실행하기 위해 컴퓨터 판독 가능한 기록 매체에 저장된 컴퓨터 프로그램.

11

컴퓨팅 장치로서,통신 모듈;메모리; 및상기 메모리와 연결되고, 상기 메모리에 포함된 컴퓨터 판독 가능한 적어도 하나의 프로그램을 실행하도록 구성된 적어도 하나의 프로세서를 포함하고,상기 적어도 하나의 프로그램은,복수의 이미지 센서를 이용하여 제1 사용자와 제2 사용자의 모션을 촬영하여 영상 데이터를 생성하고,마이크 센서를 이용하여 상기 제1 사용자와 상기 제2 사용자의 음성을 녹음하여 음성 데이터를 생성하고,상기 영상 데이터를 기초로 상기 제1 사용자의 신체 주요 지점으로부터 제1 세트의 복수의 키포인트를 추출하고,상기 추출된 제1 세트의 복수의 키포인트를 연결하여 상기 제1 사용자에 대응하는 제1 프레임을 결정하고,상기 음성 데이터를 기초로 상기 제1 사용자의 제1 음성 스펙트로그램을 추출하고,상기 제1 프레임 및 상기 제1 음성 스펙트로그램을 이용하여 상기 제1 사용자의 행동 및 감정을 탐지하기 위한 명령어들을 포함하는 컴퓨팅 장치.