본 과제에서는 세계 최초로 On-Device Sustainable 딥러닝 실제화 및 세계 최고 수준의 On-Device 학습 모델 정확도, 효율성을 달성하기 위해 을 최종 목표로 하여, 다음과 같은 연차별 연구 목표를 설정하여 추진한다.[1차년도, 2023년] 자원 제약적 디바이스에서 Scalable 연속 학습을 실현하기 위한, NAS병합 모델 증류 기술...

본 과제에서는 세계 최초로 On-Device Sustainable 딥러닝 실제화 및 세계 최고 수준의 On-Device 학습 모델 정확도, 효율성을 달성하기 위해 을 최종 목표로 하여, 다음과 같은 연차별 연구 목표를 설정하여 추진한다.[1차년도, 2023년] 자원 제약적 디바이스에서 Scalable 연속 학습을 실현하기 위한, NAS병합 모델 증류 기술...

본 과제에서는 세계 최초로 On-Device Sustainable 딥러닝 실제화 및 세계 최고 수준의 On-Device 학습 모델 정확도, 효율성을 달성하기 위해 을 최종 목표로 하여, 다음과 같은 연차별 연구 목표를 설정하여 추진한다.[1차년도, 2023년] 자원 제약적 디바이스에서 Scalable 연속 학습을 실현하기 위한, NAS병합 모델 증류 기술...

본 과제는 On-Device AI를 위한 자가 조립형 딥러닝 프레임워크 기술 개발이라는 창의적, 도전적 연구를 위해 다음과 같은 핵심 기술을 개발한다. [디바이스 친화적인 최적 코어 블록(Core Block) 생성 자동화 기술] 기존 셀 구조 기반 접근들의 취약점(디바이스 비친화성에 의한 비효율적 추론 지연시간)을 극복하고 딥러닝 모델의 탐색 효율성과 다양성을 극대화하기 위해, 딥러닝 자가 분해를 위한 코어 블록을 단위 구조로 탐색 공간 재설계. 탐색 공간 설계가 딥러닝 자동 탐색의 절대적 계산 복잡도(생성 가능한 딥러닝 구조의 조합 수)를 결정하기에, 본 과제에서는 디바이스 최적 코어 블록을 자동으로 생성, 인코딩 및 선별하는 기술 개발 [Scalable한 On-Device 딥러닝 모델 초고속 탐색 기술] 기존 NAS 기술의 한계점(작은 데이터셋의 경우에도 많은 최적화 시간, 고성능 클라우드 컴퓨팅 필요)을 해결하기 위해, 코어 블록의 확률적 채택과 대체, 연산자 가중치 고유, 그래디언트 최적화에 기반한 고속 자가 조립 기술 개발. 대용량 태스크를 대상으로 소규모 컴퓨팅 자원 환경에서 1 GPU-day이내에 딥러닝 훈련, 자동 탐색하는 도전적 기술을 연구하며, 심층 회기기반 지연시간 예측 기술을 통해 디바이스 상에서의 추론 시간을 정밀하게 추정 [디바이스 환경 변화에 능동적으로 대응하는 On-Device 가변 딥러닝 기술] 지속적으로 변화하는 디바이스의 특성을 적극적으로 반영하기 위해서는 디바이스에 탑재된 딥러닝 구조의 변형 기술이 필요. 심층 강화 학습 기반의 자동 모델 압축 프로세스, 코어 블록 파인 튜닝, 세그멘테이션 반복 정규화 기술을 연구하여, 실시간으로 변경되는 On-Device 환경에 능동적으로 대응하는 딥러닝 자가 재조립 기술을 개발