Cloudflare ने आज अपने AI Gateway के लिए Auto Router का सार्वजनिक बीटा जारी किया। उपयोगकर्ता अपने मॉडल को cloudflare/auto पर सेट कर सकते हैं। इसके बाद सिस्टम हर अनुरोध को उस सबसे कम लागत वाले मॉडल तक भेजेगा जो संबंधित काम कर सके। आंतरिक परीक्षणों में, हमेशा OpenAI के Sol या Anthropic के Opus जैसे शीर्ष-स्तरीय मॉडल इस्तेमाल करने की तुलना में राउटर ने लागत 30% तक घटाई। बीटा के दौरान यह सुविधा मुफ़्त है। इसका मकसद संगठनों को AI पर होने वाले खर्च को नियंत्रण में रखने में मदद करना है—बिना उपयोगकर्ताओं से मैन्युअल रूप से मॉडल चुनवाए।
यह क्यों मायने रखता है
यह कंपनियों को AI का खर्च अपने-आप घटाने की सुविधा देता है और ज़रूरत पड़ने पर उपयोगकर्ताओं को शक्तिशाली मॉडल उपलब्ध कराता है।
