엔비디아와 오라클은 27일(현지시간) 오라클 클라우드 인프라(OCI)에 엔비디아 베라 루빈 NVL72 시스템과 독립형 베라 CPU를 정식 출시했다고 밝혔다. 두 회사는 OCI 슈퍼클러스터를 수 기가와트 규모로 확대할 계획도 공개했다. 대규모 모델을 학습·실행하는 GPU 자원과 AI 에이전트가 코드를 실행하고 정보를 찾는 CPU 자원을 함께 확충하려는 협력이다.
에이전트는 모델이 다음 행동을 정한 뒤에도 코드를 돌리고, 데이터를 검색하고, 외부 도구를 불러야 한다. 이 단계가 늦어지면 GPU가 다음 계산을 시작하지 못하고 기다릴 수 있다. 양사는 CPU와 GPU를 각각 늘리는 방식으로 이런 대기를 줄이고, 필요한 종류의 컴퓨팅만 추가해 유휴 용량을 낮출 수 있다고 설명했다.
CPU와 GPU를 따로 늘린다
오라클에 따르면 베라 CPU는 에이전트의 코드 실행과 도구 호출처럼 CPU를 많이 쓰는 작업을 맡는다. OCI 쿠버네티스 엔진에서는 CPU와 GPU 자원을 별도로 확장할 수 있다. 오라클 액셀러론 네트워킹은 AI가 만든 신뢰할 수 없는 코드가 실행되는 환경을 하드웨어 기반으로 격리하는 기능도 지원한다.
오픈AI는 베라 CPU의 초기 도입 고객 중 하나다. 오픈AI의 우다이 라드라주 컴퓨팅 담당 CTO는 에이전트 샌드박스 작업에서 코드를 실행하고 도구를 구동하기 위해 베라를 OCI 운영 환경에 도입한다고 밝혔다. 한편 NVL72 한 랙에는 NV링크로 연결된 GPU 72개가 들어간다. 오라클은 기존 블랙웰 기반 시스템에 이어 베라 루빈 플랫폼을 슈퍼클러스터에 추가할 예정이다.
성능 수치는 어디까지 확인됐나
엔비디아는 베라 CPU가 에이전트 관련 CPU 작업에서 주요 x86 프로세서보다 최대 80% 빠르다고 제시했다. 이 수치는 엔비디아 플랫폼 벤치마크 결과다. OCI에서 같은 폭의 성능 향상이 검증됐다는 뜻은 아니다. 또 GPU 활용률이 낮은 원인이 항상 CPU 부족인 것은 아니다. 작업량이 적거나 데이터베이스, 원격 서비스, 애플리케이션 구조가 병목이라면 CPU를 바꿔도 해결되지 않을 수 있다.
오라클은 8개 루빈 GPU를 연결한 HGX 루빈 NVL8 구성도 선보일 계획이다. NVL8은 정식 출시가 아니라 도입 계획 단계다. 기업은 새 구성을 검토할 때 실제 업무에서 작업 완료율과 응답 시간, CPU·GPU 사용량, 비용을 함께 확인해야 한다.
왜 중요한가
OCI에서 AI 에이전트를 운영하는 기업은 GPU와 CPU를 따로 늘리는 구성을 선택할 수 있어, 코드 실행이나 데이터 검색이 지연되는 작업에서 자원 배치를 조정할 여지가 생긴다. 다만 실제로 비용이나 대기 시간이 얼마나 줄지는 각 기업의 작업에서 측정해야 하며, 가격과 OCI에서의 성능 향상 수치는 공개되지 않았다.
