동적 캐시 할당을 위한 프로세서, 시스템 및 방법
PROCESSOR, SYSTEM AND METHOD FOR DYNAMIC CACHE ALLOCATION
특허 요약
동적 캐시 할당을 위한 프로세서, 시스템 및 방법이 개시된다. 본 개시에 따른 프로세서는, 제1 메모리 및 제2 메모리 각각에 액세스하여 요청을 처리하도록 구성된 프로세싱 코어, 제1 메모리에 대한 제1 액세스 지연시간을 포함하는 제1 레이턴시 정보를 생성하고, 제2 메모리에 대한 제2 액세스 지연시간을 포함하는 제2 레이턴시 정보를 생성하도록 구성된 레이턴시 모니터, 제1 파티션 및 제2 파티션으로 분할 된 복수의 캐시 웨이들, 및 제1 레이턴시 정보 및 제2 레이턴시 정보에 기초하여, 복수의 캐시 웨이들을 각각 제1 파티션 및 제2 파티션 각각에 할당하도록 구성된 결정 엔진을 포함할 수 있다.
청구항
번호청구항
1

제1 메모리 및 제2 메모리 각각에 액세스하여 요청을 처리하도록 구성된 프로세싱 코어;제1 메모리에 대한 제1 액세스 지연시간을 포함하는 제1 레이턴시 정보를 생성하고, 제2 메모리에 대한 제2 액세스 지연시간을 포함하는 제2 레이턴시 정보를 생성하도록 구성된 레이턴시 모니터;제1 파티션 및 제2 파티션으로 분할 된 복수의 캐시 웨이들; 및상기 제1 레이턴시 정보 및 상기 제2 레이턴시 정보에 기초하여, 상기 복수의 캐시 웨이들을 각각 상기 제1 파티션 및 상기 제2 파티션 각각에 할당하도록 구성된 결정 엔진을 포함하는 프로세서.

2

제1항에 있어서,상기 결정 엔진은,상기 제1 메모리로부터 상기 요청과 관련된 데이터를 상기 제1 파티션에 캐싱하고,상기 제2 메모리로부터 상기 요청과 관련된 데이터를 상기 제2 파티션에 캐싱하도록 구성된 것을 특징으로 하는 프로세서.

3

제2항에 있어서,상기 레이턴시 모니터는,상기 요청에 대한 캐시 미스(cache miss)가 발생시 상기 제1 메모리에 대한 상기 제1 액세스 지연시간을 계산하고, 상기 제1 레이턴시 정보를 상기 결정 엔진으로 출력하도록 구성된 제1 레이턴시 모니터; 및상기 요청에 대한 상기 캐시 미스가 발생시 상기 제2 메모리에 대한 상기 제2 액세스 지연시간을 계산하고, 상기 제2 레이턴시 정보를 상기 결정 엔진으로 출력하도록 구성된 제2 레이턴시 모니터를 포함하는 프로세서.

4

제3항에 있어서,상기 결정 엔진은,상기 복수의 캐시 웨이들의 상기 제1 파티션으로의 할당 정보를 나타내는 제1 마스킹 값을 포함하는 제1 마스크;상기 복수의 캐시 웨이들의 상기 제2 파티션으로의 할당 정보를 나타내는 제2 마스킹 값을 포함하는 제2 마스크; 및상기 제1 액세스 지연시간 및 상기 제2 액세스 지연시간에 기초하여, 상기 복수의 캐시 웨이들을 상기 제1 파티션 또는 상기 제2 파티션으로 할당하도록 구성된 캐시 할당기를 포함하는 프로세서.

5

제4항에 있어서,상기 캐시 할당기는,상기 제1 액세스 지연시간이 상기 제2 액세스 지연시간보다 작은 경우, 상기 제1 마스킹 값 및 상기 제2 마스킹 값을 조절하여 상기 제1 파티션에 할당된 제1 캐시 웨이들 중 적어도 하나의 캐시 웨이를 상기 제2 파티션에 할당하고,상기 제2 액세스 지연시간이 상기 제1 액세스 지연시간보다 작은 경우, 상기 제1 마스킹 값 및 상기 제2 마스킹 값을 조절하여 상기 제2 파티션에 할당된 제2 캐시 웨이들 중 적어도 하나의 캐시 웨이를 상기 제1 파티션에 할당하도록 구성된 것을 특징으로 하는 프로세서.

6

제1항에 있어서,상기 프로세싱 코어는,상기 제1 메모리와 DDR(Double Data Rate) 인터페이스를 통해 통신하고,상기 제2 메모리와 CXL(Compute Express Link) 인터페이스를 통해 통신하도록 구성된 것을 특징으로 하는 프로세서.

7

프로세서의 동작 방법에 있어서,제1 마스크의 마스킹 값인 제1 마스킹 값 및 제2 마스크의 마스킹 값인 제2 마스킹 값에 기초하여, 복수의 캐시 웨이들을 제1 파티션 및 제2 파티션으로 분할 하는 단계;제1 메모리에 대한 제1 액세스 지연시간을 포함하는 제1 레이턴시 정보를 생성하고, 제2 메모리에 대한 제2 액세스 지연시간을 포함하는 제2 레이턴시 정보를 생성하는 단계; 및상기 제1 액세스 지연시간 및 상기 제2 액세스 지연시간의 크기에 기초하여, 상기 복수의 캐시 웨이들을 상기 제1 파티션 및 상기 제2 파티션으로 할당하는 단계를 포함하는 방법.

8

제7항에 있어서,상기 제1 레이턴시 정보 및 상기 제2 레이턴시 정보를 생성하는 단계는,상기 프로세서의 요청에 대한 캐시 미스가 발생시 상기 프로세서의 상기 제1 메모리에 대한 상기 제1 액세스 지연시간을 계산하고, 상기 제1 레이턴시 정보를 생성하는 단계; 및상기 프로세서의 상기 요청에 대한 상기 캐시 미스가 발생시 상기 프로세서의 상기 제2 메모리에 대한 상기 제2 액세스 지연시간을 계산하고, 상기 제2 레이턴시 정보를 생성하는 단계를 포함하는 방법.

9

복수의 프로세싱 코어들, 제1 레벨 캐시 및 공유 캐시를 포함하는 프로세서;상기 프로세서의 요청과 관련된 데이터들을 저장하도록 구성된 호스트 메모리; 및상기 프로세서의 상기 요청과 관련된 데이터들을 저장하도록 구성된 장치를 포함하고,상기 제1 레벨 캐시는,상기 호스트 메모리에 대한 제1 액세스 지연시간을 포함하는 제1 레이턴시 정보를 생성하고, 상기 장치에 대한 제2 액세스 지연시간을 포함하는 제2 레이턴시 정보를 생성하도록 구성된 레이턴시 모니터를 포함하고,상기 공유 캐시는,제1 파티션 및 제2 파티션으로 분할 된 복수의 캐시 웨이들; 및상기 레이턴시 모니터로부터 수신된 상기 제1 레이턴시 정보 및 상기 제2 레이턴시 정보에 기초하여, 상기 복수의 캐시 웨이들을 각각 상기 제1 파티션 또는 상기 제2 파티션으로 할당하도록 구성된 결정 엔진을 포함하는 시스템.

10

제9항에 있어서,상기 결정 엔진은,상기 호스트 메모리로부터 상기 요청과 관련된 데이터를 상기 제1 파티션에 캐싱하고,상기 장치로부터 상기 요청과 관련된 데이터를 상기 제2 파티션에 캐싱하도록 구성된 것을 특징으로 하는 시스템.