신경망 아키텍처를 결정하는 NAS (Neural Architecture Search) 모듈; 및상기 결정된 신경망 아키텍처에 따른 가속기 아키텍처를 결정하고 상기 결정된 가속기 아키텍처에 관한 하드웨어 메트릭을 예측하는 DANCE (Differentiable Accelerator and Network Co-Exploration) 평가모듈을 포함하되,상기 DANCE 평가모듈은사전 학습을 통해 구축되고 상기 결정된 신경망 아키텍처에 따른 최적의 하드웨어를 상기 가속기 아키텍처로서 탐색하고 상기 가속기 아키텍처에 관한 PE (Processing Element) 어레이 구성(PEx, PEy), 레지스터 파일(RF, Register File) 구성 및 데이터플로우(DF, dataflow) 구성 중 적어도 하나를 결정하는 하드웨어 생성 네트워크(Hardware generation network); 및상기 가속기 아키텍처에 관한 구성들을 기초로 상기 하드웨어 메트릭을 예측하는 비용 추정 네트워크(Cost estimation network)를 포함하는 것을 특징으로 하는 인공신경망과 연산 가속기 구조 통합 탐색 장치.

제1항에 있어서, 상기 NAS 모듈은복수의 후보 신경망 아키텍처들을 동시에 평가하여 상기 신경망 아키텍처를 선별하고 교차-엔트로피 손실(LossCE)을 산출하는 것을 특징으로 하는 인공신경망과 연산 가속기 구조 통합 탐색 장치.

삭제

제1항에 있어서, 상기 하드웨어 생성 네트워크는네트워크 아키텍처 스페이스 내에서 랜덤 네트워크들을 생성하고 상기 랜덤 네트워크들 중 하나를 상기 최적의 하드웨어로서 결정하는 것을 특징으로 하는 인공신경망과 연산 가속기 구조 통합 탐색 장치.

제4항에 있어서, 상기 하드웨어 생성 네트워크는ReLU(Rectified Linear Unit)를 활성화 함수로서 사용하는 다계층 퍼셉트론으로 구성하여 상기 랜덤 네트워크들을 탐색하는 것을 특징으로 하는 인공신경망과 연산 가속기 구조 통합 탐색 장치.

제5항에 있어서, 상기 하드웨어 생성 네트워크는상기 다계층 퍼셉트론 중 마지막을 Gumbel-Softmax로 연결하여 출력 값을 상기 비용 추정 네트워크의 입력 값으로 피처 포워딩 하는 방식에 의해 상기 출력 값이 상기 입력 값에 근접하도록 하는 것을 특징으로 하는 인공신경망과 연산 가속기 구조 통합 탐색 장치.

제1항에 있어서, 상기 비용 추정 네트워크는ReLU(Rectified Linear Unit)를 활성화 함수로서 사용하고 배치 정규화를 각 계층에 적용한 다계층 리그레션(regression)으로 구성하는 것을 특징으로 하는 인공신경망과 연산 가속기 구조 통합 탐색 장치.

제7항에 있어서, 상기 비용 추정 네트워크는상기 다계층 리그레션을 통해 레이턴시, 면적 및 에너지 소모량을 결정하여 상기 하드웨어 메트릭을 예측하는 것을 특징으로 하는 인공신경망과 연산 가속기 구조 통합 탐색 장치.

제8항에 있어서, 상기 비용 추정 네트워크는상기 레이턴시, 면적 및 에너지 소모량에 관한 리니어 조합(linear combination) 또는 프로덕트(product)를 산출하여 상기 하드웨어 메트릭을 예측하는 것을 특징으로 하는 인공신경망과 연산 가속기 구조 통합 탐색 장치.

신경망 아키텍처를 결정하는 NAS 모듈 수행단계; 및상기 결정된 신경망 아키텍처에 따른 가속기 아키텍처를 결정하고 상기 결정된 가속기 아키텍처에 관한 하드웨어 메트릭을 예측하는 DANCE 평가모듈 수행단계를 포함하되,상기 DANCE 평가모듈 수행단계는사전 학습을 통해 구축되고 상기 결정된 신경망 아키텍처에 따른 최적의 하드웨어를 상기 가속기 아키텍처로서 탐색하고 상기 가속기 아키텍처에 관한 PE (Processing Element) 어레이 구성(PEx, PEy), 레지스터 파일(RF, Register File) 구성 및 데이터플로우(DF, dataflow) 구성 중 적어도 하나를 결정하는 하드웨어 생성 네트워크(Hardware generation network) 수행단계; 및상기 가속기 아키텍처에 관한 구성들을 기초로 상기 하드웨어 메트릭을 예측하는 비용 추정 네트워크(Cost estimation network) 수행단계를 포함하는 것을 특징으로 하는 인공신경망과 연산 가속기 구조 통합 탐색 방법.

삭제

제10항에 있어서, 상기 하드웨어 생성 네트워크 수행단계는네트워크 아키텍처 스페이스 내에서 랜덤 네트워크들을 생성하고 상기 랜덤 네트워크들 중 하나를 상기 최적의 하드웨어로서 결정하는 단계를 포함하는 것을 특징으로 하는 인공신경망과 연산 가속기 구조 통합 탐색 방법.

제12항에 있어서, 상기 하드웨어 생성 네트워크 수행단계는ReLU(Rectified Linear Unit)를 활성화 함수로서 사용하는 다계층 퍼셉트론으로 구성하여 상기 랜덤 네트워크들을 탐색하는 단계를 포함하는 것을 특징으로 하는 인공신경망과 연산 가속기 구조 통합 탐색 방법.

제10항에 있어서, 상기 비용 추정 네트워크 수행단계는ReLU(Rectified Linear Unit)를 활성화 함수로서 사용하고 배치 정규화를 각 계층에 적용한 다계층 리그레션(regression)으로 구성하는 단계를 포함하는 것을 특징으로 하는 인공신경망과 연산 가속기 구조 통합 탐색 방법.