وسّعت Google عائلة وحدات المعالجة Tensor Processing Unit (TPU) من الجيل الثامن. تستخدم TPU 8tx السيليكون نفسه الموجود في TPU 8t السابقة، لكنها تستبدل المضيف المعتمد على Arm بمعالج AMD EPYC من الجيل الخامس وشبكة Boardfly، لتوفير استدلال معزول على مستوى الأجهزة للمؤسسات والحكومات الخاضعة للتنظيم. أما TPU 8i Max فتجمع شريحتي 8i في حزمة واحدة، ما يضاعف قدرات الحوسبة وذاكرة SRAM وعرض نطاق ذاكرة HBM لأعمال الوكلاء ذات السياق الطويل.
لماذا يهم
يمكن للمؤسسات التي تحتاج إلى ذكاء اصطناعي آمن ومنخفض الكمون نشر TPU 8tx الجديدة من دون تصميم أجهزة مخصصة، بينما يحصل مطورو الوكلاء ذوي السياق الطويل على ضعف القدرة الحاسوبية ضمن الحجم نفسه.