Oossa

TRACER انتخاب ابزار برای عامل‌های زبانی را سریع‌تر می‌کند

رابط جدید TRACER به مدل‌های زبانی بزرگ کمک می‌کند ابزارها را با توکن کمتر و دقت بیشتر انتخاب کنند؛ آزمایش‌ها از کاهش ۸۰درصدی مصرف توکن خبر می‌دهند.

نویسنده: منتشرشده توسط Oossa: 1 دقیقه مطالعه

Sincerely Media · Unsplash

پژوهشگران TRACER را منتشر کرده‌اند؛ سامانه‌ای برای بازیابی که به عامل‌های مبتنی بر مدل‌های زبانی بزرگ کمک می‌کند ابزار مناسب را از میان فهرستی گسترده انتخاب کنند. این سامانه توالی‌های قبلی فراخوانی ابزارها را در یک تری (نمایه‌ای درخت‌مانند) ذخیره می‌کند و با ترکیبی از سرنخ‌های داده‌محور و زمینه‌ای، ابزارهای احتمالی بعدی را رتبه‌بندی می‌کند. در آزمایش‌ها، TRACER باعث شد GPT‑5.4 با وجود نمایش فقط ۵ ابزار از مجموع ۱۲۸ ابزار، ۴٫۷ واحد درصد بیشتر ابزار درست را انتخاب کند و توکن‌های ورودی مصرفی در هر گام را حدود ۸۰٪ کاهش دهد.

عملکرد آن چقدر بهتر است؟

در شش محیط آزمایشی و با چهار مدل زبانی، TRACER در ۲۱ مورد از ۲۴ ترکیب مدل و محیط، از روش استفاده از فهرست کامل ابزارها بهتر عمل کرد. میانگین افزایش دقت در انتخاب ابزار بین ۶ تا ۱۰ واحد درصد بود؛ در سه موردی هم که عملکردش ضعیف‌تر بود، اختلاف از ۲٫۲ واحد درصد بیشتر نشد. در یک اجرای خودکارِ کامل، این سامانه با مصرف ۶۱٪ توکن ورودی کمتر در هر گام، به همان میزان موفقیت کلی در انجام وظایف GPT‑5.4 رسید.

این یعنی چه برای کاربران؟

برای توسعه‌دهندگانی که دستیارهای هوش مصنوعیِ نیازمند فراخوانی سرویس‌های بیرونی می‌سازند—مثلاً برای بررسی موجودی کالا یا فعال‌کردن طرح مخابراتی—TRACER می‌تواند دستیار را سریع‌تر و ارزان‌تر کند، چون توکن‌های بسیار کمتری به مدل زبانی می‌فرستد. کاهش تعداد توکن‌ها همچنین احتمال رسیدن به محدودیت بافت مدل را، وقتی ابزارهای زیادی در دسترس‌اند، کمتر می‌کند.

چرا مهم است

توسعه‌دهندگان می‌توانند دستیارهای هوشمندتری بسازند که سریع‌تر پاسخ می‌دهند و هزینه عملیاتی کمتری دارند، چون باید توکن‌های کمتری به مدل زبانی بفرستند. برای کاربران نهایی، این می‌تواند به پاسخ‌های سریع‌تر هنگام جست‌وجوی قیمت، رزرو خدمات یا دریافت داده از یک سامانه بیرونی منجر شود.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.