Amazon Web Services anunció que el modelo GLM 5.3 de Z.ai (también conocida como Zhipu AI) ya está disponible en su plataforma Bedrock. El modelo tiene 753 mil millones de parámetros y está construido como un sistema de mezcla de expertos, lo que significa que puede dirigir partes de una solicitud a submodelos especializados para ganar eficiencia. Los usuarios de Bedrock pueden llamar a GLM 5.3 mediante las mismas API compatibles con OpenAI que ya usan, sin tener que gestionar ningún equipo.
¿Qué ofrece GLM 5.3?
GLM 5.3 está optimizado para tareas de programación prolongadas y flujos de trabajo con agentes que requieren mantener grandes cantidades de contexto, como refactorizar una base de código que abarca cientos de archivos. Z.ai también destaca su sólido rendimiento en ciberseguridad y cita una puntuación máxima de 84.5 en la prueba de referencia CyberGym. En Bedrock, el modelo ofrece almacenamiento en caché de prompts, inferencia entre regiones y tres niveles de servicio (Flex, Standard, Priority), que permiten intercambiar costo por latencia.
Cómo empezar a usarlo
Los clientes empresariales que cumplan los requisitos pueden habilitar el modelo desde la pestaña Playground de la consola de Bedrock, sin necesidad de escribir código. Los desarrolladores pueden invocarlo mediante las API Responses o Chat Completions, compatibles con OpenAI, o con las llamadas nativas Invoke y Converse de Bedrock. La publicación del blog también incluye un ejemplo de script de Python que envía al modelo una solicitud de refactorización usando tokens temporales de AWS.
Por qué importa
Las empresas ahora pueden ejecutar un modelo de gran tamaño para programación y seguridad sin comprar servidores con GPU, lo que reduce los costos iniciales y simplifica el cumplimiento normativo. El almacenamiento en caché de prompts integrado puede reducir la latencia y los cargos por tokens en sesiones prolongadas de análisis de código. Sin embargo, el modelo está limitado a cuentas empresariales que cumplan los requisitos y no se han divulgado los precios, por lo que el ahorro exacto sigue siendo incierto.
