단말의 자원과 학습 모델을 동시에 최적화하는 방법 및 장치
A method and an apparatus for simultaneously optimizing resources of devices and learning models
특허 요약
일 측면에 따른 단말의 자원과 학습 모델을 동시에 최적화하는 방법은, 목표 정확도 만족 정도와 학습 모델의 정확도에 기초하여 가상큐를 설정하는 단계; 에너지 소모량 및 유틸리티를 고려하여 비용 함수를 설정하는 단계; 상기 가상큐 및 상기 비용 함수를 이용하여 최적화 식을 도출하는 단계; 및 상기 도출된 최적화 식에 따라 오프로딩을 결정하는 단계;를 포함한다.
청구항
번호청구항
19

제1항에 따른 방법을 컴퓨터에서 실행시키기 위한 프로그램을 기록한 컴퓨터로 읽을 수 있는 기록매체.

1

목표 정확도 만족 정도와 상기 학습 모델의 정확도에 기초하여 가상큐를 설정하는 단계;에너지 소모량 및 유틸리티를 고려하여 비용 함수를 설정하는 단계;상기 가상큐 및 상기 비용 함수를 이용하여 최적화 식을 도출하는 단계; 및상기 도출된 최적화 식에 따라 오프로딩을 결정하는 단계;를 포함하는, 단말의 자원과 학습 모델을 동시에 최적화하는 방법.

2

제1항에 있어서,상기 가상큐를 설정하는 단계는,상기 목표 정확도 만족 정도에 반비례하여 크기가 증가하거나 상기 학습 모델의 정확도에 비례하여 크기가 감소하는 상기 가상큐를 설정하는 단계;를 포함하는, 방법.

3

제2항에 있어서,상기 목표 정확도 만족 정도는,기 설정된 목표 정확도를 상기 학습 모델의 정확도로 나눈 값에서 1을 뺀 값인, 방법.

4

제1항에 있어서,상기 비용 함수를 설정하는 단계는,파라미터에 따라 상기 에너지 소모량 및 상기 유틸리티가 달라지는 상기 비용 함수를 설정하는 단계;를 포함하는, 방법.

5

제4항에 있어서,상기 비용 함수를 설정하는 단계는,상기 단말의 GPU 클럭 주파수 또는 상기 단말의 네트워크 전송 속도에 비례하여 상기 에너지 소모량이 증가하는 단계;를 포함하는, 방법.

6

제4항에 있어서,상기 비용 함수를 설정하는 단계는,상기 파라미터에 비례하여 상기 에너지 소모량 및 상기 유틸리티가 증가하는 상기 비용 함수를 설정하는 단계;를 포함하는, 방법.

7

제1항에 있어서,상기 최적화 식을 도출하는 단계는,상기 가상큐 및 상기 비용 함수에 따라 단말의 GPU 클럭 주파수, 상기 단말의 네트워크 전송 속도 및 상기 학습 모델을 동시에 결정하는 상기 최적화 식을 도출하는 단계;를 포함하는, 방법.

8

제1항에 있어서,상기 오프로딩을 결정하는 단계는,상기 단말의 GPU 에너지 소모량과 상기 단말의 전송 에너지 소모량을 비교하여 상기 오프로딩을 결정하는 단계;를 포함하는, 방법.

9

제8항에 있어서,상기 오프로딩을 결정하는 단계는,(상기 단말의 GPU 에너지 소모량-상기 유틸리티 함수)값이 (상기 단말의 전송 에너지 소모량-상기 유틸리티 함수)값보다 작거나 같으면 오프로딩을 하지 않고, (상기 단말의 GPU 에너지 소모량-상기 유틸리티 함수)값이 (상기 단말의 전송 에너지 소모량-상기 유틸리티 함수)값보다 크면 오프로딩을 하기로 결정하는 단계;를 포함하는, 방법.

10

적어도 하나의 메모리; 및적어도 하나의 프로세서;를 포함하고,상기 적어도 하나의 프로세서는,목표 정확도 만족 정도와 상기 학습 모델의 정확도에 기초하여 가상큐를 설정하고,에너지 소모량 및 유틸리티를 고려하여 비용 함수를 설정하고,상기 가상큐 및 상기 비용 함수를 이용하여 최적화 식을 도출하고,상기 도출된 최적화 식에 따라 오프로딩을 결정하는, 단말의 자원과 학습 모델을 동시에 최적화하는 장치.

11

제10항에 있어서,상기 적어도 하나의 프로세서는,상기 목표 정확도 만족 정도에 반비례하여 크기가 증가하거나 상기 학습 모델의 정확도에 비례하여 크기가 감소하는 상기 가상큐를 설정하는, 장치.

12

제11항에 있어서,상기 목표 정확도 만족 정도는,기 설정된 목표 정확도를 상기 학습 모델의 정확도로 나눈 값에서 1을 뺀 값인, 장치.

13

제10항에 있어서,상기 적어도 하나의 프로세서는,파라미터에 따라 상기 에너지 소모량 및 상기 유틸리티가 달라지는 상기 비용 함수를 설정하는, 장치.

14

제13항에 있어서,상기 적어도 하나의 프로세서는,상기 단말의 GPU 클럭 주파수 또는 상기 단말의 네트워크 전송 속도에 비례하여 상기 에너지 소모량이 증가하는, 장치.

15

제13항에 있어서,상기 적어도 하나의 프로세서는,상기 파라미터에 비례하여 상기 에너지 소모량 및 상기 유틸리티가 증가하는 상기 비용 함수를 설정하는, 장치.

16

제10항에 있어서,상기 적어도 하나의 프로세서는,상기 가상큐 및 상기 비용 함수에 따라 단말의 GPU 클럭 주파수, 상기 단말의 네트워크 전송 속도 및 상기 학습 모델을 동시에 결정하는 상기 최적화 식을 도출하는, 장치.

17

제10항에 있어서,상기 적어도 하나의 프로세서는,상기 단말의 GPU 에너지 소모량과 상기 단말의 전송 에너지 소모량을 비교하여 상기 오프로딩을 결정하는, 장치.

18

제17항에 있어서,상기 적어도 하나의 프로세서는,(상기 단말의 GPU 에너지 소모량-상기 유틸리티 함수)값이 (상기 단말의 전송 에너지 소모량-유틸리티 함수)값보다 작거나 같으면 오프로딩을 하지 않고, (상기 단말의 GPU 에너지 소모량-상기 유틸리티 함수)값이 (상기 단말의 전송 에너지 소모량-상기 유틸리티 함수)값보다 크면 오프로딩을 하기로 결정하는, 장치.

도면대표도면