Google anunció esta semana dos nuevos sistemas aceleradores de IA. La TPU 8tx está diseñada para empresas y organismos gubernamentales que necesitan mantener los datos cifrados mientras se procesan. La TPU 8i Max combina dos chips TPU 8i de octava generación en un solo paquete para duplicar la capacidad de cálculo, la memoria y el ancho de banda en el mismo rack. Ambas variantes utilizan el mismo silicio que las TPU de octava generación que Google ya ofrece, pero tienen distintas configuraciones de empaquetado, red y memoria. Google afirma que este enfoque modular le permite ofrecer nuevo hardware en meses, en lugar de años.
La TPU 8tx cierra una brecha de seguridad: los datos y los pesos de los modelos permanecen cifrados incluso mientras se utilizan. Google la compara con las funciones de computación confidencial de Nvidia para GPU. El sistema funciona con la red Boardfly de baja latencia de Google y, según la compañía, reduce la latencia hasta el doble frente a la antigua TPU 8t. Google afirma que un solo sistema 8tx puede ajustar modelos, destilar modelos grandes y entrenar agentes de aprendizaje por refuerzo sin mover datos sensibles entre clústeres.
La TPU 8i Max está pensada para superar el cuello de botella de memoria que aparece cuando los agentes de IA trabajan con grandes bases de código o varias horas de video. Al combinar dos chips TPU 8i, el nuevo sistema duplica la capacidad y el ancho de banda de la memoria, y ofrece aproximadamente el doble de potencia de cálculo en el mismo espacio de rack. Google afirma que esto se traduce en un mayor rendimiento por metro cuadrado de centro de datos.
Además del hardware, Google está facilitando la adopción de sus TPU. Lanzó TorchTPU como software de código abierto para que el código de PyTorch funcione en las TPU con cambios mínimos, y añadió compatibilidad con marcos de inferencia populares como vLLM y SGLang. La compañía cuenta ahora con casi 100 clientes externos que usan sus TPU, un cambio respecto a su estrategia anterior, centrada exclusivamente en el uso interno.
Por qué importan las nuevas TPU
Las empresas que manejan datos confidenciales ahora pueden ejecutar cargas de trabajo de IA sin descifrar la información, lo que reduce el riesgo de filtraciones. Los desarrolladores que trabajan en tareas de inferencia a gran escala, como el análisis de video o la búsqueda en bases de código, obtienen más memoria y velocidad sin ampliar el espacio que ocupan en el centro de datos.
Por qué importa
Las empresas que deben proteger datos sensibles pueden ejecutar modelos de IA sin exponer información sin procesar, lo que reduce la carga de seguridad. Los equipos que realizan grandes tareas de inferencia obtienen más rendimiento por rack, lo que puede reducir los costos de hardware y las necesidades de espacio.
