GPU Resource Management in Cloud/Container Environments and Edge Transmission Optimization
연구 내용
컨테이너와 쿠버네티스 환경에서 GPU 작업 실패를 줄이기 위한 스케줄링·점수화 기법과, 엣지에서 전송 효율을 높이는 코드캐스팅 구조를 함께 설계하는 연구
클라우드 환경에서 GPU 자원을 다중 사용자 관점으로 효율화하기 위한 작업 실행 관리 기법을 연구합니다. 컨테이너·오케스트레이션 계층에서 작업 특성과 실행 시간을 고려해 GPU 작업이 중단되지 않도록 우선순위·스코어 기반 관리를 수행합니다. 또한 대역폭 제약 환경을 전제로 엣지 전송의 효율을 높이기 위한 코드캐스팅 방식을 다룹니다. 이러한 인프라 역량을 벡터 DB 및 검색증강생성 연계로 확장하여 장기 기억과 질의 응답을 지원하는 방향의 AI 시스템 소프트웨어도 함께 설계합니다.
관련 연구 성과
관련 논문
3편
관련 특허
0건
관련 프로젝트
2건
연구 흐름
초기에는 컨테이너 기반 서버리스 환경에서 데이터 집약적 작업의 실시간 서비스 품질을 유지하는 자율적 자원 관리 기법을 중심으로 연구를 수행했습니다. 이후 GPU가 병목이 되는 상황에서 실행 시간 정보를 기반으로 작업을 정렬하고, 쿠버네티스 환경에서는 멀티 메트릭 GPU 스코어링으로 의사결정을 고도화했습니다. 최근에는 엣지에서 대역폭 효율을 고려한 코드캐스팅을 다루며 전송 계층까지 범위를 확장하고, 장기 기억 저장을 위한 벡터 DB 개발과 연계해 AI 응용의 기반 구조를 구축하고 있습니다.
활용 가능성
활용 가능성은 알앤디써클 특화 AI 에이전트가 생성한 내용으로, 실제 연구 가능 여부는 연구실과의 논의가 필요합니다.
관련 논문
구분
제목
GPU Usage Time-Based Ordering Management Technique for Tasks Execution to Prevent Running Failures of GPU Tasks in Container Environments
Mutli-Metric based GPU Scoring Method in Kubernetes Environments
A-BEE-C: Autonomous Bandwidth-Efficient Edge Codecast
관련 프로젝트
구분
제목
초거대 AI 모델의 장기 기억 저장을 위한 벡터 DB 개발
컨테이너 기반 서버리스 환경에서 대규모 데이터 집약적 작업의 실시간 QoS를 지원하는 자율적 자원 관리 기법 개발