کلادفلر قابلیت Auto Router را از طریق AI Gateway به‌صورت بتای عمومی عرضه کرده است. کاربران مدل را روی `cloudflare/auto` تنظیم می‌کنند و یک دسته‌بند داخلی تصمیم می‌گیرد کدام مدل به هر درخواست پاسخ دهد. مسیریابی در دو مرحله انجام می‌شود. ابتدا AI Gateway فهرستی از مدل‌های واجد شرایط می‌سازد و مدل‌هایی را که نمی‌توانند قالب درخواست را پردازش کنند یا در بررسی اعتبارنامه، پرداخت یا دسترسی رد می‌شوند، کنار می‌گذارد. سپس یک مدل دسته‌بندی چندسَری روی Workers AI در لبه شبکه اجرا می‌شود و درخواست را از چهار جنبه—پیچیدگی، ابهام، اهمیت و وابستگی به زمینه قبلی—امتیاز می‌دهد و به آن رتبه‌ای از 1 تا 5 اختصاص می‌دهد.
دسته‌بند فقط تازه‌ترین نوبت گفتگو را بررسی می‌کند؛ حداکثر 8 KiB متن. پس از امتیازدهی، سامانه این رتبه‌ها را با نتایج بنچمارک و با استفاده از فرمول «مطلوبیت = کیفیت مورد انتظار – جریمه هزینه تطبیقی» ترکیب می‌کند. حاصل، انتخاب مدلی است که می‌کوشد میان کیفیت و قیمت تعادل برقرار کند و برای کارهای دشوارتر وزن بیشتری در نظر بگیرد.
بنچمارک چه چیزی نشان می‌دهد؟
در بنچمارک خود کلادفلر روی 97 کار، Auto Router در مقایسه با استفاده از یک مدل ارزان‌تر، با حدود یک‌سوم هزینه، 10 واحد درصد به قابلیت اطمینان افزود. این شرکت می‌گوید تیم‌ها می‌توانند انتخاب کنند که هزینه را در اولویت بگذارند یا قابلیت اطمینان را؛ امکانی که بیشتر محصولات مسیریابی در اختیارشان نمی‌گذارند. مجموعه پیش‌فرض مدل‌ها شامل Claude Opus 5، Sonnet 5، Fable 5، GPT‑5.6 Luna، Sol و Terra و Grok 4.5 است. مدل‌های رده‌بالاتر مانند Opus 5.5 و GPT‑6 Sol فقط از طریق سرآیندهای ویژه درخواست در دسترس‌اند.
عملکرد آن در عمل
هر پاسخ دو سرآیند دارد—`cf-aig-routed-model` و `cf-aig-routing-reason`—تا توسعه‌دهندگان بتوانند دلیل انتخاب مدل را بررسی کنند. با سرآیندهای `cf-aig-allowed-models` و `cf-aig-allowed-providers` می‌توان مجموعه مدل‌ها را برای هر درخواست محدود کرد، اما هنوز امکان ذخیره پروفایل‌های مسیریابی وجود ندارد. اگر شناسه نشست وجود نداشته باشد، ممکن است نوبت‌های پیاپی به مدل‌های متفاوتی ارسال شوند؛ در این صورت حافظه نهان پرامپت از دست می‌رود و «جریمه جابه‌جایی» ایجاد می‌شود که با افزایش طول زمینه بیشتر خواهد شد.
Auto Router در دوره بتا رایگان است و کلادفلر هنوز قیمت‌گذاری پس از این دوره را اعلام نکرده است. این قابلیت در حال حاضر از Chat Completions و Responses API پشتیبانی می‌کند، اما با WebSockets سازگار نیست. نسخه‌ای که قرار است در آینده با نام `cloudflare/auto-best` عرضه شود، بدون اعمال جریمه هزینه، مدلی را انتخاب می‌کند که بالاترین کیفیت مورد انتظار را دارد.
چرا مهم است
برای توسعه‌دهندگانی که اپلیکیشن‌های مبتنی بر هوش مصنوعی می‌سازند، Auto Router می‌تواند هر درخواست را به‌طور خودکار به مدلی بسپارد که میان هزینه و کارایی تعادل برقرار می‌کند؛ قابلیتی که شاید هزینه‌های ابری را کاهش دهد و کیفیت خروجی را حفظ کند. با این حال، چون تصمیم مسیریابی برای هر نوبت جداگانه گرفته می‌شود و ممکن است بدون شناسه نشست تغییر کند، تیم‌ها باید APIهای خود را طوری طراحی کنند که زمینه حفظ شود، اگر می‌خواهند رفتار مدل یکدست بماند.
