행 단위 활성 카운팅(Per-Row Activation Counting, PRAC)은 DRAM 읽기 교란(disturbance)을 완화하는 방법으로, 핵심 DRAM 타이밍 파라미터를 수정하며 시뮬레이터 기반 연구에서 상당한 성능 오버헤드를 유발하는 것으로 보고되어 있다. 그러나 시뮬레이터와 실제 하드웨어 사이에 알려진 불일치가 존재하므로, PRAC의 성능을 정확히 추정하기 위해서는 실기(real-machine) 실험이 필수적이다. 본 연구는 PRAC에 대한 최초의 실기 기반 성능 분석을 제시한다. 마이크로벤치마크를 사용하여 최신 CPU에서 타이밍 수정 사항을 검증한 결과, SPEC CPU2017 워크로드에 대해 PRAC의 평균 및 최대 오버헤드는 각각 1.06%와 3.28%에 불과한 것으로 나타났으며, 이는 시뮬레이터 기반 보고치보다 최대 9.15배 낮은 수준이다. 더 나아가, 근접 페이지(close page) 정책이 임계 경로(critical path)에서 PRAC에 의해 야기되는 DRAM 행 프리차지(row precharge) 연장 연산을 효과적으로 은폐함으로써 이 오버헤드를 최소화함을 보여준다.

검색-강화 생성(Retrieval-Augmented Generation, RAG)은 외부 소스에서 추출한 적절한 문맥을 주입함으로써 대규모 언어 모델의 품질을 향상시키는 데 중요하다. RAG는 수십억 스케일의 벡터 데이터베이스에 대해 고처리량, 저지연의 근사 최근접 이웃 검색(Approximate Nearest Neighbor Search, ANNS)을 요구한다. 기존의 DRAM/SSD 기반 솔루션은 용량/지연 한계에 직면하는 반면, 특화 하드웨어나 RDMA 클러스터는 유연성이 부족하거나 네트워크 오버헤드를 유발한다. 우리는 COSMOS를 제안하는데, 이는 CXL 메모리 장치 내에 범용 코어를 통합하여 전체 ANNS 오프로딩을 가능하게 하고, 메모리 대역폭을 최대화하기 위해 순위 수준(rank-level) 병렬 거리 계산을 도입한다. 또한 클러스터 간 근접성을 기반으로 CXL 장치 전반에 걸쳐 검색 부하를 균형 있게 분산하는 인접성 인지(adjacency-aware) 데이터 배치를 제안한다. SIFT1B 및 DEEP1B 트레이스에 대한 평가는 COSMOS가 기준 CXL 시스템 대비 최대 6.72배 높은 처리량을, 그리고 최신 수준의 CXL 기반 솔루션 대비 2.35배 높은 처리량을 달성함을 보여주어 RAG 파이프라인의 확장성을 입증한다.