Cloudflare, AI Gateway için Auto Router’ı bugün açık beta olarak kullanıma sundu. Kullanıcılar modellerini cloudflare/auto olarak ayarlayabiliyor; sistem de her isteği görevi yerine getirebilecek en düşük maliyetli modele yönlendiriyor. Şirket içi testlerde yönlendirici, OpenAI’ın Sol veya Anthropic’in Opus’u gibi üst düzey modelleri her zaman kullanmaya kıyasla maliyetleri yüzde 30’a kadar düşürdü. Beta süresince ücretsiz olan özellik, kullanıcıların modelleri elle seçmesine gerek kalmadan kuruluşların yapay zekâ harcamalarını kontrol altında tutmasına yardımcı olmayı amaçlıyor.
Neden önemli
Şirketlerin yapay zekâ giderlerini otomatik olarak azaltırken ihtiyaç duyulduğunda kullanıcıların güçlü modellere erişmesini sağlıyor.
