Oossa

کاهش ۳۰ درصدی انرژی مصرفی هر توکن با شبکه DriveNets

NeoCloud با اجرای GPUهای AMD MI325X روی DriveNets AI Fabric، مصرف برق را کاهش می‌دهد و ۹۷٪ توان عملیاتی توکن را حفظ می‌کند.

خبر کوتاهنویسنده: منتشرشده توسط Oossa: 1 دقیقه مطالعه

شرکت Bentaus که یک NeoCloud با اولویت بهره‌وری انرژی است، برای راه‌اندازی DriveNets AI Fabric روی خوشه‌ای از GPUهای AMD Instinct MI325X با DriveNets همکاری کرده است. این راهکار مشترک از نرم‌افزار ارکستراسیون Ziani شرکت Bentaus برای تنظیم لحظه‌ای توان GPUها استفاده می‌کند. به گفته دو شرکت، این سامانه انرژی مصرفی به‌ازای هر توکن را ۳۰٪ کاهش می‌دهد و ۹۷٪ توان عملیاتی توکن را حفظ می‌کند؛ یعنی سرعت فقط ۳٪ افت می‌کند. همچنین ادعا شده که این معماری در مقایسه با نتایج در دسترس عموم، توان عملیاتی کلی را حدود ۵٪ افزایش می‌دهد و زمان رسیدن به نخستین توکن را ۱۲٪ کاهش می‌دهد.

چرا مهم است

شرکت‌ها می‌توانند با برق کمتر، کارهای هوش مصنوعی بیشتری انجام دهند و فشار بر شبکه برق را در مناطقی که ظرفیت برق مراکز داده محدود است کاهش دهند.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.