| 번호 | 청구항 |
|---|---|
| 1 | 실시간 시뮬레이터가 딥 신경망 기반의 학습 모델을 통하여 대상 공장의 부하 패턴을 감지하고 최적화하기 위하여 학습하는 사전 교육 단계;를 포함하고,상기 사전 교육 단계는, 학습 데이터를 저장할 메모리를 생성하고 상기 딥 신경망 기반의 학습 모델을 초기화하는 제1단계;상기 딥 신경망 기반의 학습 모델에 대한 초기 입력 값을 생성하고, 최대 훈련 시간 횟수를 설정하는 제2단계; 및상기 최대 훈련 시간 횟수를 충족할 때까지 상기 딥 신경망 기반의 학습 모델의 훈련 프로세스를 수행하는 제3단계;를 포함하고,상기 제3단계의 상기 딥 신경망 기반의 학습 모델의 훈련 프로세스는, 현재 상태값(State, st)에 대응하는 현재 동작값(Action, at)을 결정하는 단계; 상기 현재 동작값(at)을 실행하여 미래 상태값(st+1) 및 현재 보상값(Reward, rt)을 추출하는 단계; 상기 메모리에 현재 상태값(st), 현재 동작값(at), 미래 상태값(st+1) 및 현재 보상값(rt)을 저장하는 단계; 상기 딥 신경망 기반의 학습 모델의 목표 추정치(Qtarget)를 연산하는 단계; 및 경사하강법(gradient descent)을 이용하여 상기 딥 신경망 기반의 학습 모델을 업데이트 하는 단계를 포함하고,상기 현재 동작값(at)을 결정하는 단계는, 0 및 1 사이의 난수값(random number, n)이 하기 수학식 1의 엡실론(ε값보다 작은 경우 임의 동작(random action)을 선택하고, 상기 난수값(n)이 하기 수학식 1의 엡실론(ε값보다 크거나 같은 경우 동일한 현재 상태값(st)에서 가장 높은 추정치(Q-value)를 갖는 현재 동작값(at=Max Q(st,at))을 선택하고,상기 현재 보상값(rt)을 추출하는 단계는, 하기 수학식 2에 의하여 계산되고,상기 딥 신경망 기반의 학습 모델의 목표 추정치(Qtarget)를 연산하는 단계는, 하기 수학식 3에 의하여 계산되는 것을 특징으로 하는, 공장 에너지 관리 방법:[수학식 1](여기서, α(0003c#α003c#1)는 학습률(learning rate), epoch는 훈련 시간 횟수(number of training times)이다.)[수학식 2](여기서, PAC는 장치의 정격 전력(Rated power of device), Tt는 사용 시간(Time-of-use, TOU) 가격, pe는 페널티(Penalty), ts는 장치가 켜져있는(ON) 시간, tmin은 장치의 필요한 스케줄링 시간의 최소값, tmax는 장치의 필요한 스케줄링 시간의 최대값이다.)[수학식 3](여기서, α(0003c#α003c#1)는 학습률(learning rate), (0003c#003c#1)은 미래 상황이 현재의 학습에 미치는 영향을 결정하는 할인계수(discount factor), st는 현재 상태값, at는 현재 동작값, rt는 현재 보상값, st+1은 미래 상태값, at+1은 미래 동작값이다.) |
| 2 | 제1항에 있어서,상기 제1단계는, 랜덤 매개변수 θ0(wi(가중치), bi(편향))와 함께 상기 딥 신경망 기반의 학습 모델을 초기화하고, 상기 딥 신경망 기반의 학습 모델의 최종 훈련 목표값 θtarget을 θ0으로 설정하는 것을 특징으로 하는, 공장 에너지 관리 방법. |
| 3 | 제1항에 있어서,상기 제2단계는, 초기 상태값에 대응하는 상기 딥 신경망 기반의 학습 모델에 대한 초기 입력을 생성하는 것을 특징으로 하는, 공장 에너지 관리 방법. |
| 4 | 제3항에 있어서,상기 상태값은 사용 시간(Time-of-Use, TOU) 가격, 장치의 정격 전력(Rated power of device), 장치의 필요한 스케줄링 시간(Required scheduling time of device) 및 페널티(Penalty)로 이루어진 군으로부터 선택되는 어느 하나 이상의 정보를 포함하는 것을 특징으로 하는, 공장 에너지 관리 방법. |
| 5 | 제1항에 있어서,상기 제2단계는, 최대 훈련 시간 횟수를 설정하고 카운팅 훈련 시간 횟수를 초기화하는 것을 특징으로 하는, 공장 에너지 관리 방법. |
| 6 | 제1항에 있어서,상기 제3단계는, 카운팅 훈련 시간 횟수를 1씩 증가시킨 다음 상기 카운팅 훈련 시간 횟수가 상기 최대 훈련 시간 횟수를 충족하면 상기 딥 신경망 기반의 학습 모델의 훈련 프로세스를 종료하고, 상기 카운팅 훈련 시간 횟수가 상기 최대 훈련 시간 횟수를 충족하지 못하면 상기 딥 신경망 기반의 학습 모델의 훈련 프로세스를 수행하는 것을 특징으로 하는, 공장 에너지 관리 방법. |
| 7 | 제1항에 있어서,상기 딥 신경망 기반의 학습 모델을 업데이트 하는 단계는, 최적화 함수를 이용하여 예측 매개변수 θpredict를 도출한 다음, 상기 예측 매개변수 θpredict로부터 예측 추정치(Qpredict)를 계산하고, (목표 추정치(Qtarget) - 예측 추정치(Qpredict))2의 값이 기준값(criteria)보다 작은 경우 최종 훈련 목표값 θtarget을 예측 매개변수 θpredict으로 업데이트 하는 것을 특징으로 하는, 공장 에너지 관리 방법. |
| 8 | 삭제 |
| 9 | 삭제 |
| 10 | 삭제 |
| 11 | 삭제 |
| 12 | 삭제 |