이 연구실은 운영체제의 핵심 구조를 바탕으로 시스템 소프트웨어 전반의 성능, 응답성, 공정성, 확장성을 향상시키는 연구를 수행한다. 특히 리눅스 기반 환경에서 프로세스와 스레드 관리, 스케줄링, 메모리 관리, 페이지 캐시, 시스템 콜 경로 최적화 등 운영체제 내부 메커니즘을 실제 워크로드 관점에서 분석하고 개선하는 데 강점을 보인다. 모바일 기기, 소비자 전자기기, IoT 장치처럼 자원이 제한된 환경에서도 높은 사용자 경험을 제공할 수 있도록 시스템 레벨의 구조적 개선을 추구한다. 연구 방법론 측면에서는 단순한 이론 설계에 머무르지 않고, 커널 수정, 드라이버 개선, 스케줄러 설계, 캐시 정책 재구성, 성능 계측 도구 개발 등 실증 중심 접근을 적극 활용한다. 대표적으로 스레드 동작 최적화, 다중 사용자 환경에서의 자원 스케줄링, NUMA 환경에서의 메모리 배치, 계층 메모리에서의 페이지 hotness 측정, 락 경합과 대기시간 분석 등은 운영체제의 실제 병목을 정밀하게 다루는 연구 주제들이다. 이러한 연구는 성능뿐 아니라 응답 시간의 안정성, 자원 격리, 전력 효율까지 함께 고려한다. 이 연구 분야는 차세대 컴퓨팅 환경에서 더욱 중요해지고 있다. 이종 메모리, 멀티코어, 대규모 병렬 처리, 모바일 시스템, 클라우드 인프라가 보편화되면서 운영체제는 단순 자원 관리 계층이 아니라 전체 시스템 효율을 좌우하는 핵심 요소가 되었다. 본 연구실의 운영체제 연구는 기초 시스템 소프트웨어 역량을 바탕으로 실제 산업 환경에 적용 가능한 해법을 제시하며, 고성능 컴퓨팅부터 임베디드 및 모바일 시스템까지 폭넓게 확장될 수 있는 기반 기술을 제공한다.

이 연구실의 대표적인 축 가운데 하나는 파일 시스템과 스토리지 시스템의 성능 및 신뢰성 최적화이다. 연구 대상은 NAND 플래시, SSD, NVMe, ZNS SSD, TLC 기반 저장장치, 비휘발성 메모리, 하이브리드 메모리 구조 등 현대 저장장치 전반에 걸쳐 있으며, 저장 매체의 물리적 특성과 운영체제 상위 계층의 동작 간 상호작용을 깊이 있게 분석한다. 특히 쓰기 증폭, 저널링 오버헤드, 파일 단편화, 가비지 컬렉션, FLUSH/TRIM 비용, 체크포인트 성능, 로그 구조 저장 방식과 같은 문제를 체계적으로 다루고 있다. 구체적으로는 F2FS, Ext4, Btrfs, RocksDB, LSM-tree 기반 키-값 저장소 등 실제 시스템에서 발생하는 병목을 측정하고, 이를 줄이기 위한 새로운 버퍼링, 로깅, 캐시, 데이터 배치, 병합 정책을 제안한다. S-WAL과 같은 응용 수준 크래시 일관성 기법, TLC NAND를 고려한 SLC 버퍼링, 플래시 저장장치용 쓰기 버퍼 알고리즘, 단편화 완화 기법, 읽기/쓰기 간 간섭 감소 기법은 이 연구실의 대표적인 성과 방향을 보여준다. 또한 데이터베이스와 파일 시스템의 중복 저널링, HTAP 환경의 버퍼 오염, 체크포인트 최적화 등 저장소와 상위 소프트웨어 스택의 연계 문제도 활발히 연구한다. 이 연구는 고성능 저장장치가 보편화되는 현재 매우 높은 실용적 가치를 가진다. 저장장치 자체의 속도가 빨라질수록 운영체제와 파일 시스템의 비효율이 더 뚜렷하게 드러나기 때문에, 소프트웨어 계층의 세밀한 최적화가 전체 시스템 성능을 좌우한다. 본 연구실은 저장장치 수명 연장, 지연시간 감소, 처리량 향상, 일관성 보장, 에너지 효율 개선을 동시에 추구하며, 모바일 기기부터 서버, 데이터 집약형 응용까지 다양한 환경에 적용 가능한 스토리지 핵심 기술을 축적하고 있다.

이 연구실은 가상화 환경과 차세대 메모리 시스템을 결합한 고효율 컴퓨팅 구조 연구도 중점적으로 수행한다. 가상머신, 컨테이너, 페이지 공유, 메모리 중복 제거, 가상 디스크, I/O 가상화, vCPU 배치, 메모리 공유율 측정 등 가상화 시스템의 자원 활용 문제를 폭넓게 다루며, 동시에 PM, NVM, Optane, 계층 메모리와 같은 새로운 메모리 기술이 시스템 소프트웨어에 미치는 영향을 분석한다. 이는 클라우드와 데이터센터뿐 아니라 모바일 및 엣지 환경에서도 중요한 연구 방향이다. 세부적으로는 가상화 계층에서 발생하는 중복 오버헤드, 페이지 캐시 간섭, 디스크 이미지 메타데이터 비용, CoW 기반 저장 오버헤드, 메모리 공유 기회 분석, 컨테이너 인지 페이지 캐시 관리 등을 연구해 왔다. 또한 계층 메모리 환경에서의 페이지 분류와 크기 결정, 메모리 할당자 성능 분석, NUMA 기반 최적화, 영속 메모리 자료구조, 차세대 하드웨어 기반 빅데이터 응용 지원 미들웨어 등은 차세대 시스템 구조를 소프트웨어적으로 활용하기 위한 핵심 과제들이다. 이러한 연구는 단순히 자원을 더 많이 쓰는 것이 아니라, 자원의 위치와 성질을 인지하여 더 똑똑하게 쓰는 시스템 설계를 목표로 한다. 앞으로 컴퓨팅 인프라는 더욱 가상화되고, 메모리와 스토리지는 점차 계층화될 것이다. 이에 따라 운영체제와 하이퍼바이저, 런타임, 저장소 엔진이 하드웨어 특성을 세밀하게 반영해야만 성능과 효율을 동시에 달성할 수 있다. 본 연구실의 가상화 및 차세대 메모리 연구는 이러한 변화에 대응하는 시스템 소프트웨어 기반 기술을 제공하며, 클라우드 서비스 품질 보장, 데이터 집약형 응용 가속, 차세대 서버 아키텍처 최적화에 직접 기여할 수 있는 응용 잠재력을 지닌다.