Bentaus, DriveNets 패브릭으로 AI 토큰당 에너지 30% 절감

에너지 효율을 우선하는 NeoCloud 기업 Bentaus는 DriveNets와 협력해 AMD Instinct MI325X GPU 클러스터에 DriveNets AI Fabric을 구축했다. 공동 솔루션은 Bentaus의 Ziani 오케스트레이션 소프트웨어를 사용해 GPU 전력을 실시간으로 조절한다. 양사는 이 구성이 토큰당 에너지 사용량을 30% 줄이면서 토큰 처리량의 97%를 유지한다고 밝혔다. 속도 저하는 3%에 그친다는 뜻이다. 또한 이 아키텍처는 공개된 결과와 비교해 전체 처리량이 약 5% 높고 첫 토큰이 나올 때까지 걸리는 시간은 12% 짧다고 주장한다.