Cyber Security Systems Research Lab
전산학부 강병훈
Cyber Security Systems Research Lab(사이버 보안 시스템 연구실)은 KAIST 전산학부 소속으로, 시스템 보안, 커널 보안, 악성코드 분석, 인공지능 기반 보안, 클라우드 및 컨테이너 보안 등 다양한 첨단 정보보호 기술을 연구하고 있습니다. 본 연구실은 하드웨어와 소프트웨어의 경계를 넘나드는 융합적 보안 기술 개발을 통해, 실제 산업 및 사회에 적용 가능한 실질적 보안 솔루션을 제시하는 것을 목표로 하고 있습니다.
연구실의 대표적인 연구 분야는 하드웨어 기반 커널 무결성 모니터링, 신뢰 실행 환경(TEE) 및 ARM TrustZone, Intel SGX 등 최신 하드웨어 보안 기술을 활용한 시스템 보호입니다. Vigilare, KI-Mon, S-Mon 등 다양한 커널 무결성 감시 시스템을 개발하여, 루트킷 및 커널 공격에 대한 실시간 탐지와 방어 기술을 선도적으로 제시하였습니다. 또한, 커널 확장 모듈의 격리, 동적 주소 변환 공격 방어, 시스템 콜 필터링 등 최신 위협에 대응하는 새로운 아키텍처와 방어 기법을 지속적으로 연구하고 있습니다.
악성코드 분석 및 인공지능 기반 보안 분야에서도 연구실은 AI-HydRa, The Image Game 등 딥러닝과 머신러닝을 결합한 첨단 악성코드 탐지 모델을 개발하여, 기존 탐지 기법 대비 높은 탐지율과 낮은 오탐율을 달성하였습니다. 네트워크 트래픽 기반 스팸 및 악성 URL 탐지, 봇넷 구조 분석, 에뮬레이션 탐지 등 다양한 악성 행위 분석 기술도 활발히 연구되고 있습니다. 최근에는 인공지능 분류기의 신뢰성 평가, 예측 오류 추적, 실시간 악성코드 탐지 자동화 등 차세대 보안 기술로 연구 범위를 확장하고 있습니다.
클라우드 및 컨테이너 환경 보안 연구도 활발히 진행 중입니다. Optimus와 같은 시스템 콜 필터링 기술을 통해 컨테이너의 공격 표면을 최소화하고, 신뢰 실행 환경 기반의 클라우드 보안, 데이터 무결성 및 프라이버시 보호, 클라우드 내 악성코드 탐지 등 다양한 연구를 수행하고 있습니다. 또한, 하드웨어 신뢰성 강화, 분산 아키텍처 시뮬레이션, 보안 취약점 자동 분석 등 차세대 클라우드 보안 기술 개발에도 앞장서고 있습니다.
이외에도 본 연구실은 다양한 국가 연구과제와 산업 협력 프로젝트를 수행하며, 정보보호 특성화 대학 지원, 고급 보안 인력 양성, 국제 학술대회 발표 및 특허 출원 등 활발한 연구 활동을 이어가고 있습니다. 이러한 연구 성과는 국내외 정보보호 산업 발전과 국가 사이버 보안 역량 강화에 크게 기여하고 있습니다.
Malware Analysis
IoT Security
Botnet Detection
시스템 및 커널 보안: 하드웨어와 소프트웨어의 통합적 방어
본 연구실은 시스템 및 커널 보안 분야에서 하드웨어와 소프트웨어를 아우르는 통합적 방어 기술을 중점적으로 연구하고 있습니다. 최근 컴퓨터 시스템은 다양한 공격 벡터에 노출되어 있으며, 특히 운영체제 커널과 시스템 소프트웨어는 공격자에게 매력적인 표적이 되고 있습니다. 이에 따라 커널 무결성 감시, 동적 메모리 보호, 권한 분리, 신뢰 실행 환경(TEE) 등 다양한 보안 기술이 요구되고 있습니다.
연구실에서는 Vigilare, KI-Mon, S-Mon 등 하드웨어 기반 커널 무결성 모니터링 시스템을 개발하여, 루트킷 및 커널 공격을 실시간으로 탐지하고 방어하는 기술을 선도적으로 제시하였습니다. 또한, ARM TrustZone, Intel SGX와 같은 신뢰 실행 환경을 활용한 커널 보호, 메모리 무결성 검증, 외부 모니터링 기법 등 다양한 하드웨어-소프트웨어 협력 보안 기술을 연구하고 있습니다. 이러한 연구는 실제 모바일 기기, 클라우드, IoT 환경 등 다양한 플랫폼에 적용되어 실질적인 보안성을 높이고 있습니다.
더불어, 커널 확장 모듈의 격리, 동적 주소 변환 공격 방어, 시스템 콜 필터링 등 최신 위협에 대응하기 위한 새로운 아키텍처와 방어 기법을 지속적으로 개발하고 있습니다. 본 연구실의 시스템 및 커널 보안 연구는 학계와 산업계에서 높은 평가를 받고 있으며, 실제 상용화 및 표준화에도 기여하고 있습니다.
악성코드 분석 및 인공지능 기반 보안 기술
악성코드 탐지와 분석은 사이버 보안의 핵심 분야 중 하나로, 본 연구실은 전통적인 정적/동적 분석 기법뿐만 아니라 인공지능 및 머신러닝을 활용한 첨단 악성코드 탐지 기술을 연구하고 있습니다. 인터넷과 클라우드 환경의 확산으로 인해 악성코드의 전파와 변종 생성이 급격히 증가하고 있으며, 이에 대응하기 위해서는 자동화된 분석과 고도화된 탐지 기법이 필수적입니다.
연구실에서는 AI-HydRa, The Image Game 등 딥러닝과 랜덤 포레스트를 결합한 하이브리드 악성코드 분류 모델을 개발하여, 기존 탐지 기법 대비 높은 탐지율과 낮은 오탐율을 달성하였습니다. 또한, 네트워크 트래픽 기반 스팸 및 악성 URL 탐지, 봇넷 구조 분석, 에뮬레이션 탐지 등 다양한 악성 행위 분석 기술을 연구하고 있습니다. 이러한 연구는 대규모 데이터셋을 활용한 실험과 실제 환경 적용을 통해 그 효과가 입증되고 있습니다.
최근에는 인공지능 분류기의 신뢰성 평가, 예측 오류 추적, 실시간 악성코드 탐지 자동화 등 차세대 보안 기술로 연구 범위를 확장하고 있습니다. 본 연구실의 악성코드 분석 및 AI 기반 보안 연구는 정보보호 산업의 발전과 국가 사이버 보안 역량 강화에 크게 기여하고 있습니다.
클라우드 및 컨테이너 환경 보안
클라우드 컴퓨팅과 컨테이너 기술의 확산에 따라, 새로운 보안 위협과 공격 기법이 등장하고 있습니다. 본 연구실은 클라우드 및 컨테이너 환경에서의 공격 표면 최소화, 신뢰 실행 환경 기반 보호, 동적 시스템 콜 필터링 등 다양한 보안 기술을 연구하고 있습니다. 특히, 컨테이너의 런타임 보안 프로파일 갱신, 커널과의 상호작용 최소화, 클라우드 데이터 보호 등 실질적인 위협에 대응하는 기술 개발에 집중하고 있습니다.
Optimus와 같은 시스템 콜 필터링 기술은 컨테이너가 실제로 필요한 최소한의 시스템 콜만을 허용함으로써, 공격자가 악용할 수 있는 경로를 효과적으로 차단합니다. 또한, 신뢰 실행 환경(TEE)과 연계한 클라우드 보안, 데이터 무결성 및 프라이버시 보호, 클라우드 내 악성코드 탐지 등 다양한 연구가 진행되고 있습니다. 이러한 기술들은 실제 클라우드 서비스 제공자와의 협력을 통해 상용화 가능성을 높이고 있습니다.
더불어, 클라우드 환경에서의 하드웨어 신뢰성 강화, 분산 아키텍처 시뮬레이션, 보안 취약점 자동 분석 등 차세대 클라우드 보안 기술 개발에도 앞장서고 있습니다. 본 연구실의 클라우드 및 컨테이너 보안 연구는 미래 지향적이며, 산업 현장에서의 실질적 적용을 목표로 하고 있습니다.
1
BankTweak: Adversarial Attack against Multi-Object Trackers by Manipulating Feature Banks
Woojin Shin, Donghwa Kang, Daejin Choi, Brent Byunghoon Kang, Jinkyu Lee, Hyeongboo Baek
Proceedings of the 34th International Joint Conference on Artificial Intelligence (IJCAI), 2025
2
Interstellar: Fully Partitioned and Efficient Security Monitoring Hardware Near a Processor Core for Protecting Systems against Attacks on Privileged Software
Yongho Song, Byeongsu Woo, Youngkwang Han, Brent Byunghoon Kang
Proceedings of the ACM SIGSAC Conference on Computer and Communications Security (CCS), 2024
3
Optimus: association-based dynamic system call filtering for container attack surface reduction
Seungyong Yang, Brent Byunghoon Kang, Jaehyun Nam
Journal of Cloud Computing (JCC), 2024
1
2024년 정보보호특성화대학 지원사업(한국과학기술원)
2
SW공급망 전주기 보안 내재화를 위한 SBOM과 VEX 연계 기반 취약점 통합 관리 플랫폼 기술
3
기존 네트워크 조기 인증 가능 다이얼렉트 프로토콜 처리 가속 네트워크 패킷 필터링 하드웨어 시제품 구현