گوگل این هفته از دو سامانه شتاب‌دهنده هوش مصنوعی جدید رونمایی کرد. TPU 8tx برای شرکت‌ها و نهادهای دولتی ساخته شده که باید داده‌ها را هنگام پردازش نیز رمزگذاری‌شده نگه دارند. TPU 8i Max دو تراشه TPU 8i نسل هشتم را در یک بسته‌بندی کنار هم قرار می‌دهد تا توان پردازشی، حافظه و پهنای باند را در همان رک دو برابر کند. هر دو مدل از همان سیلیکون زیربنایی TPUهای نسل هشتم فعلی گوگل استفاده می‌کنند، اما بسته‌بندی، شبکه و پیکربندی حافظه متفاوتی دارند. گوگل می‌گوید این رویکرد ماژولار امکان عرضه سخت‌افزار جدید را در چند ماه، به‌جای چند سال، فراهم می‌کند.
TPU 8tx یک خلأ امنیتی را برطرف می‌کند: داده‌ها و وزن‌های مدل حتی هنگام استفاده فعال نیز رمزگذاری‌شده می‌مانند. گوگل آن را با قابلیت‌های پردازش محرمانه انویدیا برای پردازنده‌های گرافیکی مقایسه می‌کند. این سامانه از شبکه کم‌تأخیر Boardfly گوگل استفاده می‌کند و مدعی است در مقایسه با TPU 8t قدیمی‌تر، تأخیر را تا دو برابر بیشتر کاهش می‌دهد. گوگل می‌گوید یک سامانه TPU 8tx می‌تواند مدل‌ها را با داده‌های جدید تنظیم دقیق کند، مدل‌های بزرگ را تقطیر کند و عامل‌های یادگیری تقویتی را آموزش دهد، بی‌آنکه داده‌های حساس میان خوشه‌ها جابه‌جا شوند.
TPU 8i Max برای رفع گلوگاه حافظه طراحی شده که هنگام کار عامل‌های هوش مصنوعی با پایگاه‌های کد بزرگ یا ساعت‌ها ویدئو پدید می‌آید. با قرار دادن دو تراشه TPU 8i در کنار هم، سامانه جدید ظرفیت حافظه و پهنای باند را دو برابر می‌کند و در همان فضای رک، تقریباً دو برابر توان پردازشی ارائه می‌دهد. گوگل می‌گوید نتیجه این است که به‌ازای هر مترمربع از فضای مرکز داده، عملکرد بیشتری به دست می‌آید.
گوگل در کنار سخت‌افزار، استفاده از TPUها را نیز آسان‌تر می‌کند. این شرکت TorchTPU را به‌صورت متن‌باز منتشر کرده تا کدهای PyTorch با کمترین تغییر روی TPUها اجرا شوند و پشتیبانی از چارچوب‌های رایج استنتاج مانند vLLM و SGLang را نیز اضافه کرده است. اکنون نزدیک به 100 مشتری بیرونی از TPUهای این شرکت استفاده می‌کنند؛ تغییری نسبت به راهبرد پیشین گوگل که استفاده را به داخل شرکت محدود می‌کرد.
چرا TPUهای جدید اهمیت دارند
شرکت‌هایی که با داده‌های محرمانه سروکار دارند، اکنون می‌توانند بارهای کاری هوش مصنوعی را بدون رمزگشایی اطلاعات اجرا کنند و خطر نشت داده را کاهش دهند. توسعه‌دهندگانی که روی کارهای استنتاج در مقیاس بزرگ، مانند تحلیل ویدئو یا جست‌وجو در پایگاه‌های کد، کار می‌کنند نیز بدون افزایش فضای مرکز داده، حافظه و سرعت بیشتری در اختیار خواهند داشت.
چرا مهم است
شرکت‌هایی که باید از داده‌های حساس محافظت کنند، می‌توانند مدل‌های هوش مصنوعی را بدون افشای اطلاعات خام اجرا کنند و بار امنیتی را کاهش دهند. گروه‌هایی که کارهای استنتاج بزرگ انجام می‌دهند، در هر رک عملکرد بیشتری به دست می‌آورند؛ چیزی که می‌تواند هزینه سخت‌افزار و نیاز به فضا را کاهش دهد.
