پژوهشگرانی به سرپرستی Qi Zhang روش PORA را معرفی کردهاند؛ روشی برای عاملهای مدل زبانی که یاد میگیرد استدلال طولانیتر چه زمانی نتیجه را بهتر میکند. سیستم هنگام آموزش، هر گام را دو بار اجرا میکند: یکبار با محدودیت کوتاه برای استدلال و بار دیگر با محدودیتی طولانیتر، تا ببیند کدامیک به نتیجهٔ نهایی بهتری میرسد. هنگام اجرا، یک کنترلگر با تکیه بر این برآوردِ آموختهشده و بودجهٔ محاسباتی باقیمانده، گزینهٔ کمهزینهتر را انتخاب میکند، بیآنکه هر دو حالت را اجرا کند. آزمایشها در کارهای مربوط به حافظه، کدنویسی، خردهفروشی و ریاضی نشان دادند که PORA در یک معیار سنجش حافظه امتیاز را تا 32.9% افزایش داده و در کارهای ریاضی تعداد فراخوانیهای مدل را تا 31% کاهش داده است.
چرا مهم است
این روش به توسعهدهندگان امکان میدهد عاملهای هوشمندتری بسازند که با حفظ عملکرد، محاسبات ابری کمتری مصرف میکنند و هزینهٔ سرویسهای متکی بر استدلال چندمرحلهای را پایین میآورند.