گوگل در ۹ نوامبر ۲۰۲۶ دو نسخه جدید از واحدهای پردازش تانسوری (TPU) خود را معرفی کرد. TPU 8tx برای استنتاج محرمانه طراحی شده و وزن‌های مدل و داده‌ها را داخل تراشه محافظت می‌کند. TPU 8i Max دو تراشه TPU 8i را که برای استنتاج بهینه شده‌اند، در یک بسته‌بندی واحد ترکیب می‌کند و حافظه، توان پردازشی و پهنای باند را دو برابر می‌کند. هر دو تراشه به نسل هشتم تعلق دارند؛ نسلی که گوگل نخستین بار در آوریل ۲۰۲۴ معرفی کرد.
اهمیت تراشه‌های جدید
تراشه 8tx رمزگذاری سخت‌افزاری را اضافه می‌کند تا شرکت‌های تحت نظارت بتوانند مدل‌ها را با داده‌های حساس تنظیم دقیق کنند یا اجرا کنند، بی‌آنکه داده‌ها را به سامانه دیگری منتقل کنند. گوگل می‌گوید این تراشه می‌تواند آموزش و استنتاج را هم‌زمان اجرا کند و تأخیر آن حدود نصف TPU 8t قبلی باشد، در حالی که افت عملکرد ناچیز می‌ماند. 8i Max برای رفع «دیوار حافظه» ساخته شده؛ محدودیتی که سرعت عامل‌های بزرگ‌مقیاس را کاهش می‌دهد. این تراشه با قرار دادن دو 8i در کنار هم، در همان فضای رک، SRAM، پهنای باند HBM و تراکم پردازشی را دو برابر می‌کند و به مدل‌ها امکان می‌دهد با پنجره‌های زمینه‌ای یک‌میلیون‌تُکِنی کار کنند.
زمینه گسترده‌تر
اقدام گوگل در پی تلاش‌های مشابه مایکروسافت، آمازون، OpenAI و Anthropic برای طراحی تراشه‌های ویژه هوش مصنوعی خود و کاهش وابستگی به پردازنده‌های گرافیکی Nvidia انجام می‌شود. گوگل می‌گوید کسب‌وکار TPU این شرکت اکنون نزدیک به ۱۰۰ مشتری دارد؛ از آزمایشگاه‌های پژوهشی گرفته تا خرده‌فروشان. همچنین در یک سال چهار سامانه متفاوت TPU عرضه شده که برای این شرکت بی‌سابقه است. این تراشه‌ها از طریق Google Cloud عرضه می‌شوند و امکان نصب آن‌ها در مراکز داده خصوصی نیز وجود دارد.
چرا مهم است
شرکت‌هایی که باید داده‌های اختصاصی خود را در محل نگه دارند، حالا به لطف امنیت داخلی 8tx می‌توانند مدل‌ها را بدون افشای این داده‌ها برای سرورهای بیرونی تنظیم دقیق کنند. شرکت‌هایی که عامل‌های زبانی بزرگ را اجرا می‌کنند نیز با کندی کمتری روبه‌رو می‌شوند، چون 8i Max در همان فضای رک حافظه و پهنای باند بیشتری فراهم می‌کند.
