Cloudflare släppte i dag Auto Router i öppen betaversion för AI Gateway. Användare kan ställa in modellen på cloudflare/auto, så skickar systemet varje förfrågan till den billigaste modellen som kan hantera uppgiften. I interna tester sänkte routern kostnaderna med upp till 30 procent jämfört med att alltid använda toppmodeller som OpenAI:s Sol eller Anthropics Opus. Funktionen är gratis under betaperioden och ska hjälpa organisationer att hålla AI-kostnaderna under kontroll utan att användarna behöver välja modeller manuellt.
Varför det spelar roll
Företag kan automatiskt sänka sina AI-kostnader och samtidigt ge användarna tillgång till kraftfulla modeller när de behövs.
