Oossa

Baseten بارگذاری ابزارها را به مدل‌های متن‌باز اضافه کرد؛ کاهش هزینه تا ۶۲٪

قابلیت جدید مصرف توکن را کم و اجرای وظایف را سریع‌تر می‌کند؛ برای عامل‌های کدنویسی، هزینه را تا ۶۲٫۵٪ و زمان را ۲۶٪ کاهش می‌دهد.

خبر کوتاهنویسنده: منتشرشده توسط Oossa: 1 دقیقه مطالعه

Baseten اعلام کرد که APIهای مدل این شرکت اکنون از بارگذاری با تأخیر ابزارها برای مدل‌های متن‌بازی مانند DeepSeek، Kimi و GLM پشتیبانی می‌کنند. با این تغییر، طرح‌واره‌های ابزار از پرامپت سیستمی حذف می‌شوند و فقط هنگام نیاز بارگذاری می‌شوند. در آزمایش‌های Claude Code با سه افزونه ثبت‌شده، هزینه بنچمارک‌های کدنویسی ۶۲٫۵٪ کمتر و اجرای آن‌ها ۲۶٫۲٪ سریع‌تر شد. بنچمارک‌های عامل‌محور نیز حدود ۵۱٪ کاهش هزینه و ۱۵٪ کاهش زمان را نشان دادند.

چرا مهم است

توسعه‌دهندگان می‌توانند بدون تغییر مدل‌ها یا کد خود، عامل‌های هوش مصنوعی را ارزان‌تر و سریع‌تر اجرا کنند.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.