현대 컴퓨팅 환경에서 데이터 센터의 중요성은 지속적으로 증가하고 있으며, 지연 민감 작업(Latency-Critical, LC)의 서비스 품질(Quality of Service, QoS)을 보장하는 것은 시스템 고장 및 성능 저하를 방지하는 데 필수적이다. 지연 민감 작업의 QoS를 보장하기 위해 널리 사용되는 자원 격리 기법은 QoS 요구 사항을 만족할 때까지 추가 자원을 할당한다. 그러나 기존 방법은 최선 노력(Best-Effort, BE) 작업의 성능 포화 지점을 고려하지 않으며, LC 작업 요구 사항을 충족한 이후 남는 모든 자원을 BE 작업에 할당함으로써 자원 낭비가 발생한다. 또한 실시간 자원 조정에 의해 유발되는 높은 오버헤드는 시스템 성능 저하로 이어질 수 있다. 이러한 문제를 해결하기 위해 본 논문은 자중 기반 마르코프 체인 모델을 제안하여 자원 최적화를 수행한다. 제안된 모델은 균형 잡힌 자원 조합에 대한 오프라인 프로파일링을 통해 자원 효율을 평가하고, 최적 자원 할당 전략을 사전에 결정한다. LC 작업 QoS를 보장하는 데 필요한 최소 자원을 정확히 식별하고 BE 작업의 성능 포화 지점을 예측함으로써, 모델은 불필요한 자원 낭비를 방지한다. 전통적 방법과 달리, 제안된 모델은 자중 기반 프로파일링을 활용하여 실시간 스케줄링 오버헤드를 크게 감소시키고 균형 잡힌 자원 할당을 달성한다. 실험 결과는 제안된 모델이 기존 자원 격리 스케줄링 기법과 비교 가능한 수준에서 BE 작업 성능을 보장하면서도 LC 작업 QoS를 유지함을 보여준다. 또한 해당 모델은 자원 활용을 성공적으로 최적화하고 전통적 방법에 비해 프로파일링 오버헤드를 효과적으로 감소시킨다. 제안된 접근 방식은 다중 작업 서버 환경에서 자원 효율과 성능을 모두 최적화한다.

클라우드 데이터 센터는 고성능 서버를 점차 통합함에 따라, 동질적인 인프라를 유지하는 것이 비효율적인 이질적 환경으로 전환되고 있다. 이에 따라 GPU-CPU 이질적 클라우드 데이터 센터가 필수적인 요소로 자리 잡았다. 최적 스케줄링은 서버 성능 차이와 자원 사용 변동을 처리하는 데 필수적이다. 이질적 클러스터에서의 효율적인 자원 활용은 작업 실행 성능과 전체 시스템 효율을 최적화하기 위한 핵심 과제로서, 전통적인 스케줄링 기법들은 주로 오프라인 정적 프로파일링에 의존하여 각 장치에서의 작업 실행 시간을 사전에 측정하거나, CPU와 메모리 활용도를 기준으로 작업을 분류하여 서로 다른 특성을 갖는 워크로드를 함께 배치함으로써 자원 경합을 완화하고 성능을 향상시킨다. 그러나 이러한 접근법은 세부적인 수준의 자원 경합과 환경 변화에 동적으로 대응하지 못하여 성능 저하와 자원 효율의 감소를 초래한다. 본 연구는 이러한 문제를 해결하기 위해 실시간 자원 지표를 활용하는 동적 스케줄링 프레임워크를 제안한다. 제안된 프레임워크는 작업을 Compute-intensive와 Memory-intensive 범주로 분류하여 이질적 클러스터 환경에서의 최적 작업 배치를 결정한다. Compute-intensive 작업은 높은 IPC(Instructions Per Cycle)를 요구하며 주로 CPU 자원을 활용하는 반면, Memory-intensive 작업은 높은 LLC miss rate를 보이고 상당한 메모리 대역폭을 소모한다. 대규모 실험을 통해 작업 분류 지표를 정의한 후, 프레임워크는 각 작업의 특성에 따라 이를 CPU 서버 또는 GPU 서버에 배치한다. 또한 실시간 자원 모니터링을 통해 경합을 감지하고, 작업 마이그레이션을 트리거하여 자원 활용을 최적화하고 경합을 완화하며 성능을 극대화한다. 실험 결과는 제안 방법이 기존의 이질적 클러스터 스케줄링 기법들보다 우수함을 보여주며, 자원 활용도, 작업 실행 시간, 경합 완화 측면에서 유의미한 개선을 달성하였다.