Oossa

Architect پلتفرم مزایده‌ای Liquid Inference را برای درخواست‌های LLM معرفی کرد

شرکت Architect Financial Technologies با راه‌اندازی Liquid Inference، بازاری عرضه کرده که در آن ارائه‌دهندگان برای پردازش هر پرامپت LLM به‌صورت زنده پیشنهاد قیمت می‌دهند.

خبر کوتاهنویسنده: منتشرشده توسط Oossa: 1 دقیقه مطالعه

شرکت Architect Financial Technologies سرویس Liquid Inference را عرضه کرده است؛ مسیریاب LLM که برای هر درخواست، مزایده‌ای زنده برگزار می‌کند. ارائه‌دهندگان برای پردازش هر پرامپت پیشنهاد قیمت می‌دهند و خریدار کمترین پیشنهادی را می‌پردازد که با معیارهایش مطابقت داشته باشد. توسعه‌دهندگان برای استفاده از این سرویس فقط باید نشانی پایه را در کدشان تغییر دهند.

چرا مهم است

توسعه‌دهندگان می‌توانند با انتخاب خودکار ارزان‌ترین ارائه‌دهنده‌ای که معیارهایشان را برآورده می‌کند، هزینه‌های استنتاج را کاهش دهند.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.