Oossa

عرضه آزمایشی Auto Router کلادفلر برای AI Gateway

این قابلیت برای هر درخواست، توانمندترین مدل ارزان‌تر را انتخاب می‌کند و وعده کاهش هزینه تا ۳۰ درصد را می‌دهد.

خبر کوتاهOossaمنتشرشده توسط Oossa: 1 دقیقه مطالعه

کلادفلر امروز Auto Router را به‌صورت آزمایشی عمومی برای AI Gateway عرضه کرد. کاربران می‌توانند مدل خود را روی cloudflare/auto تنظیم کنند تا سیستم هر درخواست را به ارزان‌ترین مدلی بفرستد که از عهده آن برمی‌آید. در آزمایش‌های داخلی، این مسیریاب در مقایسه با استفاده همیشگی از مدل‌های پیشرفته‌ای مانند Sol از OpenAI یا Opus از Anthropic، هزینه‌ها را تا ۳۰ درصد کاهش داد. این قابلیت در دوره آزمایشی رایگان است و هدفش کمک به سازمان‌ها برای کنترل هزینه‌های هوش مصنوعی است، بی‌آنکه کاربران مجبور باشند مدل‌ها را دستی انتخاب کنند.

چرا مهم است

این قابلیت به شرکت‌ها کمک می‌کند هزینه‌های هوش مصنوعی را به‌طور خودکار کاهش دهند و در عین حال، هر وقت لازم باشد دسترسی کاربران به مدل‌های قدرتمند را حفظ کنند.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.