상세 설명

경량 AI는 제한된 자원을 가진 환경에서 인공지능 모델의 효율성을 극대화하는 기술을 연구하는 분야입니다. ODAI@UOS 연구실에서는 대규모 언어 모델(LLM)의 최적화, BitNet과 같은 양자화 기법, 그리고 스파이킹 뉴럴 네트워크(SNN)를 활용하여 에너지 효율성을 높이는 다양한 방법론을 개발하고 있습니다. 이러한 연구는 모바일 디바이스, 임베디드 시스템, IoT 기기 등에서 인공지능을 실시간으로 구동할 수 있도록 하는 데 중점을 두고 있습니다. 특히, 스파이킹 뉴럴 네트워크(SNN)는 생물학적 신경망을 모방하여 매우 낮은 전력 소모로도 높은 연산 성능을 발휘할 수 있는 차세대 인공지능 기술로 주목받고 있습니다. 연구실에서는 SNN 기반 비전 트랜스포머(Spiking ViT)에서 토큰 수를 동적으로 조절하는 STAS(Spatio-Temporal Adaptive Computation Time for Spiking Transformers)와 같은 혁신적인 프레임워크를 개발하여, 기존의 CNN이나 ANN 기반 모델 대비 에너지 효율성과 정확도를 동시에 향상시키고 있습니다. 이러한 경량 AI 연구는 자율주행차, 웨어러블 디바이스, 스마트 팩토리 등 실시간성과 에너지 효율이 중요한 다양한 응용 분야에 적용될 수 있습니다. 앞으로도 ODAI@UOS 연구실은 초저전력 뉴로모픽 AI 반도체, 실시간 LMM 플랫폼 등 미래 지향적 기술 개발을 통해 경량 AI의 한계를 지속적으로 극복해 나갈 계획입니다.

키워드

관련 이미지

관련 자료