شرکت Bentaus که یک NeoCloud با اولویت بهرهوری انرژی است، برای راهاندازی DriveNets AI Fabric روی خوشهای از GPUهای AMD Instinct MI325X با DriveNets همکاری کرده است. این راهکار مشترک از نرمافزار ارکستراسیون Ziani شرکت Bentaus برای تنظیم لحظهای توان GPUها استفاده میکند. به گفته دو شرکت، این سامانه انرژی مصرفی بهازای هر توکن را ۳۰٪ کاهش میدهد و ۹۷٪ توان عملیاتی توکن را حفظ میکند؛ یعنی سرعت فقط ۳٪ افت میکند. همچنین ادعا شده که این معماری در مقایسه با نتایج در دسترس عموم، توان عملیاتی کلی را حدود ۵٪ افزایش میدهد و زمان رسیدن به نخستین توکن را ۱۲٪ کاهش میدهد.
چرا مهم است
شرکتها میتوانند با برق کمتر، کارهای هوش مصنوعی بیشتری انجام دهند و فشار بر شبکه برق را در مناطقی که ظرفیت برق مراکز داده محدود است کاهش دهند.