실시간 시뮬레이터를 이용한 강화학습 기반 공장 에너지 관리 방법 및 이를 이용한 시스템
FACTORY ENERGY MANAGEMENT METHOD BASED ON REINFORCEMENT LEARNING USING REAL-TIME SIMULATOR AND SYSTEM USING THE SAME
특허 요약
본 발명은 실시간 시뮬레이터를 이용한 딥 신경망 기반의 학습 모델을 통하여 대상 공장의 부하 패턴을 감지하고 최적화하기 위하여 학습하는 사전 교육 단계; 및 상기 사전 교육 결과를 상기 대상 공장에 적용하여 실제 공장 환경을 탐색하고 학습하는 선진 훈련 단계;를 포함하고, 상기 사전 교육 단계는, 학습 데이터를 저장할 메모리를 생성하고 상기 딥 신경망 기반의 학습 모델을 초기화하는 제1단계; 상기 딥 신경망 기반의 학습 모델에 대한 초기 입력 값을 생성하고, 최대 훈련 시간 횟수를 설정하는 제2단계; 및 상기 최대 훈련 시간 횟수를 충족할 때까지 상기 딥 신경망 기반의 학습 모델의 훈련 프로세스를 수행하는 제3단계;를 포함하는, 공장 에너지 관리 방법 및 이를 이용한 시스템에 관한 것이다. 본 발명에 의하면, 실시간 시뮬레이션 환경을 통한 사전 교육 단계 및 실제 환경을 통한 선진 훈련 단계를 반복적으로 학습함으로써 효율적이고 경제적으로 공장 에너지를 관리할 수 있는 효과가 있다.
청구항
번호청구항
1

실시간 시뮬레이터가 딥 신경망 기반의 학습 모델을 통하여 대상 공장의 부하 패턴을 감지하고 최적화하기 위하여 학습하는 사전 교육 단계;를 포함하고,상기 사전 교육 단계는, 학습 데이터를 저장할 메모리를 생성하고 상기 딥 신경망 기반의 학습 모델을 초기화하는 제1단계;상기 딥 신경망 기반의 학습 모델에 대한 초기 입력 값을 생성하고, 최대 훈련 시간 횟수를 설정하는 제2단계; 및상기 최대 훈련 시간 횟수를 충족할 때까지 상기 딥 신경망 기반의 학습 모델의 훈련 프로세스를 수행하는 제3단계;를 포함하고,상기 제3단계의 상기 딥 신경망 기반의 학습 모델의 훈련 프로세스는, 현재 상태값(State, st)에 대응하는 현재 동작값(Action, at)을 결정하는 단계; 상기 현재 동작값(at)을 실행하여 미래 상태값(st+1) 및 현재 보상값(Reward, rt)을 추출하는 단계; 상기 메모리에 현재 상태값(st), 현재 동작값(at), 미래 상태값(st+1) 및 현재 보상값(rt)을 저장하는 단계; 상기 딥 신경망 기반의 학습 모델의 목표 추정치(Qtarget)를 연산하는 단계; 및 경사하강법(gradient descent)을 이용하여 상기 딥 신경망 기반의 학습 모델을 업데이트 하는 단계를 포함하고,상기 현재 동작값(at)을 결정하는 단계는, 0 및 1 사이의 난수값(random number, n)이 하기 수학식 1의 엡실론(ε값보다 작은 경우 임의 동작(random action)을 선택하고, 상기 난수값(n)이 하기 수학식 1의 엡실론(ε값보다 크거나 같은 경우 동일한 현재 상태값(st)에서 가장 높은 추정치(Q-value)를 갖는 현재 동작값(at=Max Q(st,at))을 선택하고,상기 현재 보상값(rt)을 추출하는 단계는, 하기 수학식 2에 의하여 계산되고,상기 딥 신경망 기반의 학습 모델의 목표 추정치(Qtarget)를 연산하는 단계는, 하기 수학식 3에 의하여 계산되는 것을 특징으로 하는, 공장 에너지 관리 방법:[수학식 1](여기서, α(0003c#α003c#1)는 학습률(learning rate), epoch는 훈련 시간 횟수(number of training times)이다.)[수학식 2](여기서, PAC는 장치의 정격 전력(Rated power of device), Tt는 사용 시간(Time-of-use, TOU) 가격, pe는 페널티(Penalty), ts는 장치가 켜져있는(ON) 시간, tmin은 장치의 필요한 스케줄링 시간의 최소값, tmax는 장치의 필요한 스케줄링 시간의 최대값이다.)[수학식 3](여기서, α(0003c#α003c#1)는 학습률(learning rate), (0003c#003c#1)은 미래 상황이 현재의 학습에 미치는 영향을 결정하는 할인계수(discount factor), st는 현재 상태값, at는 현재 동작값, rt는 현재 보상값, st+1은 미래 상태값, at+1은 미래 동작값이다.)

2

제1항에 있어서,상기 제1단계는, 랜덤 매개변수 θ0(wi(가중치), bi(편향))와 함께 상기 딥 신경망 기반의 학습 모델을 초기화하고, 상기 딥 신경망 기반의 학습 모델의 최종 훈련 목표값 θtarget을 θ0으로 설정하는 것을 특징으로 하는, 공장 에너지 관리 방법.

3

제1항에 있어서,상기 제2단계는, 초기 상태값에 대응하는 상기 딥 신경망 기반의 학습 모델에 대한 초기 입력을 생성하는 것을 특징으로 하는, 공장 에너지 관리 방법.

4

제3항에 있어서,상기 상태값은 사용 시간(Time-of-Use, TOU) 가격, 장치의 정격 전력(Rated power of device), 장치의 필요한 스케줄링 시간(Required scheduling time of device) 및 페널티(Penalty)로 이루어진 군으로부터 선택되는 어느 하나 이상의 정보를 포함하는 것을 특징으로 하는, 공장 에너지 관리 방법.

5

제1항에 있어서,상기 제2단계는, 최대 훈련 시간 횟수를 설정하고 카운팅 훈련 시간 횟수를 초기화하는 것을 특징으로 하는, 공장 에너지 관리 방법.

6

제1항에 있어서,상기 제3단계는, 카운팅 훈련 시간 횟수를 1씩 증가시킨 다음 상기 카운팅 훈련 시간 횟수가 상기 최대 훈련 시간 횟수를 충족하면 상기 딥 신경망 기반의 학습 모델의 훈련 프로세스를 종료하고, 상기 카운팅 훈련 시간 횟수가 상기 최대 훈련 시간 횟수를 충족하지 못하면 상기 딥 신경망 기반의 학습 모델의 훈련 프로세스를 수행하는 것을 특징으로 하는, 공장 에너지 관리 방법.

7

제1항에 있어서,상기 딥 신경망 기반의 학습 모델을 업데이트 하는 단계는, 최적화 함수를 이용하여 예측 매개변수 θpredict를 도출한 다음, 상기 예측 매개변수 θpredict로부터 예측 추정치(Qpredict)를 계산하고, (목표 추정치(Qtarget) - 예측 추정치(Qpredict))2의 값이 기준값(criteria)보다 작은 경우 최종 훈련 목표값 θtarget을 예측 매개변수 θpredict으로 업데이트 하는 것을 특징으로 하는, 공장 에너지 관리 방법.

8

삭제

9

삭제

10

삭제

11

삭제

12

삭제