پژوهشگران به سرپرستی Boris Radovič راهکاری میانه میان عاملهای هوش مصنوعیِ صرفاً ابری و مدلهای کوچکِ روی دستگاه را بررسی کردند. در این روش، ابر برنامه را مینویسد، اما برای تفسیر دادههای کاربر از یک مدل کوچک محلی کمک میگیرد. آزمونها در معیار AppWorld نشان دادند این طراحی ترکیبی، نرخ موفقیت عاملِ صرفاً کدنویس را در هر شش ترکیب مدل و بخش آزمون افزایش داد؛ این افزایش به 14.9 واحد درصد رسید و با حفظ حریم خصوصی، بخش زیادی از فاصله با حلقه ReAct کاملاً میزبانیشده در ابر را از میان برد.
چرا مهم است
کاربران دستگاههای لبه میتوانند دستیارهای هوش مصنوعی دقیقتری داشته باشند، بیآنکه دادههای خصوصیشان را به ابر بفرستند.