پژوهشگران OpenDS-World را معرفی کردهاند؛ بنچمارکی برای سنجش توانایی عاملهای هوش مصنوعی در یافتن پاسخ در وب زنده، با استفاده از جستوجو، تعامل با مرورگر و قالبهای مختلف فایل. این بنچمارک ۲۰۰ مأموریت دارد و برای اطمینان از مستند بودن شواهد و یکتا بودن پاسخ هر مأموریت، آنها را به تأیید انسانها رساندهاند.
در ارزیابی پژوهشگران از ۱۲ مدل با یک مجموعه ابزار مشخص، بهترین مدل به دقت ۳۹٫۰ درصد رسید. ارزیابان انسانی در مجموع ۱۰۰۰ تلاش، دقت ۲۱٫۱ درصد داشتند. مقاله همچنین از مشکلات پایدار در هماهنگکردن ابزارها و مدیریت جستوجوهای طولانی خبر میدهد؛ چکیده ارائهشده مشخص نمیکند کدام مدل بهترین عملکرد را داشته است.
چرا مهم است
OpenDS-World برای پژوهشگرانی که عاملهای پژوهش وب میسازند، آزمونی بر بستر وب زنده فراهم میکند. نتایج نشان میدهد این مأموریتها همچنان دشوارند، اما چکیده مشخص نمیکند این امتیازها در استفاده روزمره چه معنایی دارند.