실제 상황 사용을 고려한 멀티 모달 협업형 평생 학습 프레임워크 개발ㆍ다양한 도메인의 지식을 결합하고 여러 downstream task에 적용 가능한 멀티모달 연속 학습 PDM 프레임워크 개발ㆍOpenAI GPT-3, NAVER HyperCLOVA 와 같은 초거대 언어 모델들을 효율적으로 업데이트 하는 방법론 구축 및 이를 반영한 새로운 초거대 언어 모델 ...
연속학습
평생학습
기계학습
멀티모달
초거대모델
2
2022년 3월-2026년 12월
|969,000,000원
지속 가능한 협업형 멀티 모달 평생 학습 프레임워크 개발
실제 상황 사용을 고려한 멀티 모달 협업형 평생 학습 프레임워크 개발ㆍ다양한 도메인의 지식을 결합하고 여러 downstream task에 적용 가능한 멀티모달 연속 학습 PDM 프레임워크 개발ㆍOpenAI GPT-3, NAVER HyperCLOVA 와 같은 초거대 언어 모델들을 효율적으로 업데이트 하는 방법론 구축 및 이를 반영한 새로운 초거대 언어 모델 ...
연속학습
평생학습
기계학습
멀티모달
초거대모델
3
주관|
2022년 3월-2026년 12월
|750,000,000원
지속 가능한 협업형 멀티 모달 평생 학습 프레임워크 개발
평생학습 연구 동향 조사 및 데이터 수집
데이터 정보 표현위한 외부 뉴럴 메모리 구현
학습된 기존 태스크 정보 저장 및 활용 가능한 알고리즘 개발
외부 뉴럴 메모리가 포함된 평생학습 딥러닝 프로토 타입 구축/평가
기존 이미지 연속학습 방법론 조사
이미지와 비디오 도메인의 차이점 파악
비디오 이해 연구의 최신 모델 파악
연구 파이프라인 구축
연속학습에서의 시계열 문제의 한계점을 극복하는 방법론 조사
연속학습을 위한 시계열 모델 구현 및 평가
기존 사전 학습 모델의 특성 및 연속 학습 모델과의 관계 탐구
메타 러닝을 통해 연속 학습을 위한 사전 학습 알고리즘 개발
기존 연속 학습 평가에 사용되는 벤치마크 데이터셋에서의 성능 확인 및 분석
연속지식학습을 위한 벤치마크 구축
초거대 언어모델을 위한 기존 지속학습 방법론 조사
퓨샷 영상 분류 자료조사
퓨샷 영상 분할 자료조사
퓨샷 영상 분류 및 분할 모델 구현
퓨샷 영상 분류 및 분할 모델 평가
연속 학습 실험 환경/평가 지표 정의 및 구현
데이터 중요도 기반 메모리 관리 기법 개발
적응형 학습률 등 연속 학습 기법 개선
새로운 실험 환경/평가 지표로 연속 학습 모델 평가
심볼릭 기반 데이터 표현 기술 개발
학습된 데이터 정보들의 관계성 표현 메모리 연구
관계성 정보 기반 기존 태스크 성능 고도화 연구
비디오 액션 분류 데이터셋 구축
비디오 효율적인 메모리 관리 알고리즘 개발
시간 정보를 활용하는 알고리즘 개발
성능 평가 및 분석
Hypernetwork의 공유 멀티태스크 층 개발
Hypernetwork의 파라미터 생성 층 개발
토이데이터셋을 이용하여 Hypernetwork 기반 시계열 모델에 대한 성능 평가
벤치마크 데이터셋을 이용하여 시계열 모델의 성능 평가
기존 메모리 관리 기법 조사 및 각 알고리즘의 문제점 분석
메타 러닝을 통한 과거 태스크 데이터 생성 기법 개발
생성된 데이터를 통한 메모리 관리 기법 개발 및 연속 학습에 적용
개발한 메모리 관리 기법을 통한 연속 학습의 성능 평가 및 분석
초거대 언어 모델 지속학습을 위한 lifelong 학습 코퍼스 구축
Entire Wikipedia Dump를 활용해 업데이트한 언어모델 베이스라인 구현
기존 연속학습 방법론을 통해 업데이트한 언어모델 구현
대용량 사전학습 모델 탐구 및 전이 가능성 조사
퓨샷 개체 분할 탐지 자료조사
통합적 퓨샷 영상인식 및 개체 탐지 모델 구현
연속적 퓨샷 데이터를 받는 통합적 모델로 확장
Noisy label을 처리하는 기존 방법론 조사
Noisy label에 적합한 메모리 관리 기법 개발
Noisy label에 강건한 연속 학습 방법 개발
Noisy label 연속 학습 방법 평가
실제 상황 사용을 고려한 멀티 모달 협업형 평생 학습 프레임워크 개발ㆍ다양한 도메인의 지식을 결합하고 여러 downstream task에 적용 가능한 멀티모달 연속 학습 PDM 프레임워크 개발ㆍOpenAI GPT-3, NAVER HyperCLOVA 와 같은 초거대 언어 모델들을 효율적으로 업데이트 하는 방법론 구축 및 이를 반영한 새로운 초거대 언어 모델 ...