کلادفلر امروز Auto Router را بهصورت آزمایشی عمومی برای AI Gateway عرضه کرد. کاربران میتوانند مدل خود را روی cloudflare/auto تنظیم کنند تا سیستم هر درخواست را به ارزانترین مدلی بفرستد که از عهده آن برمیآید. در آزمایشهای داخلی، این مسیریاب در مقایسه با استفاده همیشگی از مدلهای پیشرفتهای مانند Sol از OpenAI یا Opus از Anthropic، هزینهها را تا ۳۰ درصد کاهش داد. این قابلیت در دوره آزمایشی رایگان است و هدفش کمک به سازمانها برای کنترل هزینههای هوش مصنوعی است، بیآنکه کاربران مجبور باشند مدلها را دستی انتخاب کنند.
چرا مهم است
این قابلیت به شرکتها کمک میکند هزینههای هوش مصنوعی را بهطور خودکار کاهش دهند و در عین حال، هر وقت لازم باشد دسترسی کاربران به مدلهای قدرتمند را حفظ کنند.