Amazon Web Services, Z.ai'nin (Zhipu AI olarak da biliniyor) GLM 5.3 modelinin Bedrock platformunda kullanıma sunulduğunu açıkladı. 753 milyar parametreye sahip model, verimlilik sağlamak için bir isteğin farklı bölümlerini uzmanlaşmış alt modellere yönlendirebilen bir uzmanlar karışımı (mixture-of-experts) sistemi olarak tasarlandı. Bedrock kullanıcıları, herhangi bir donanımı kendileri çalıştırmadan GLM 5.3'ü hâlihazırda kullandıkları OpenAI uyumlu API'ler üzerinden çağırabiliyor.
GLM 5.3 neler sunuyor?
GLM 5.3; yüzlerce dosyaya yayılan bir kod tabanını yeniden düzenlemek gibi, geniş bağlamı koruması gereken uzun süreli kodlama görevleri ve ajan tabanlı iş akışları için optimize edildi. Z.ai, CyberGym kıyaslamasında aldığı 84.5 puanla güçlü siber güvenlik performansına da dikkat çekiyor. Bedrock'ta model; istem önbelleğe alma, Bölgeler arası çıkarım ve kullanıcıların maliyet ile gecikme süresi arasında tercih yapmasını sağlayan üç hizmet katmanından (Flex, Standard, Priority) yararlanıyor.
Kullanmaya nasıl başlanır?
Uygun kurumsal müşteriler, Bedrock konsolundaki Playground sekmesinden modeli etkinleştirebilir; kod yazmaları gerekmez. Geliştiriciler modeli OpenAI uyumlu Responses veya Chat Completions API'leriyle ya da Bedrock'ın yerel Invoke ve Converse çağrılarıyla kullanabilir. Blog yazısında, kısa süreli AWS belirteçleriyle modele kodu yeniden düzenleme isteği gönderen örnek bir Python betiği de yer alıyor.
Neden önemli
Şirketler artık GPU sunucuları satın almadan büyük ölçekli bir kodlama ve güvenlik modelini çalıştırabilir; bu da başlangıç maliyetlerini düşürür ve uyumluluk süreçlerini kolaylaştırır. Yerleşik istem önbelleğe alma özelliği, uzun süreli kod analiz oturumlarında gecikmeyi ve belirteç ücretlerini azaltabilir. Ancak model yalnızca uygun kurumsal hesaplarla sınırlı ve fiyatlandırma açıklanmadı; bu nedenle kesin maliyet tasarrufu belirsizliğini koruyor.