Oossa

엑시나, OCP 서밋서 CXL 기반 AI 추론 기술 시연

엑시나는 MX1으로 KV 캐시 공유와 RAG 벡터 검색 가속을 시연했다. SK하이닉스와는 하이브리드 메모리의 AI 서빙 적용을 검증 중이다.

짧은 소식작성: Oossa 게시일: 1 분 읽기

엑시나는 2026년 10월 12~15일 미국 산호세에서 열린 OCP 글로벌 서밋에서 CXL 기반 메모리 솔루션 MX1을 이용한 AI 추론 기술 두 가지를 시연했다. 하나는 여러 서버가 KV 캐시를 공용 메모리에서 함께 쓰는 방식이고, 다른 하나는 데이터가 저장된 메모리 가까이에서 RAG 벡터 검색을 수행하는 방식이다.

회사는 두 기술이 데이터 이동을 줄이도록 설계됐다고 설명했다. SK하이닉스와는 MX1의 SSD 기반 메모리 확장 기능을 활용한 CXL 하이브리드 메모리를 개발하고 있으며, 실제 AI 서빙 환경에 적용할 수 있는지 검증 중이다. 성능 향상이나 전력 절감의 구체적인 수치는 공개되지 않았다.

왜 중요한가

AI 서버를 운영하는 기업에는 메모리와 연산장치 사이의 데이터 이동을 줄이려는 선택지가 될 수 있지만, 실제 성능과 비용 효과는 아직 공개되지 않았다.

이 기사가 도움이 되었나요?
공유

다음 읽을거리

Oossa · 뉴스레터

이번 주 AI, 쉽게 정리

매주 월요일, 알아둘 만한 소식을 쉬운 말로. 무료, 스팸 없음.