Oossa

OpenDS-World عامل‌های جست‌وجوی وب را با ۲۰۰ مأموریت می‌سنجد

پژوهشگران بنچمارکی مبتنی بر وب زنده برای عامل‌های جست‌وجوی عمیق معرفی کرده‌اند. دقت بهترین مدل ۳۹ درصد بود و انسان‌ها در تلاش‌هایشان به ۲۱٫۱ درصد رسیدند.

خبر کوتاهنویسنده: منتشرشده توسط Oossa: 1 دقیقه مطالعه

پژوهشگران OpenDS-World را معرفی کرده‌اند؛ بنچمارکی برای سنجش توانایی عامل‌های هوش مصنوعی در یافتن پاسخ در وب زنده، با استفاده از جست‌وجو، تعامل با مرورگر و قالب‌های مختلف فایل. این بنچمارک ۲۰۰ مأموریت دارد و برای اطمینان از مستند بودن شواهد و یکتا بودن پاسخ هر مأموریت، آن‌ها را به تأیید انسان‌ها رسانده‌اند.

در ارزیابی پژوهشگران از ۱۲ مدل با یک مجموعه ابزار مشخص، بهترین مدل به دقت ۳۹٫۰ درصد رسید. ارزیابان انسانی در مجموع ۱۰۰۰ تلاش، دقت ۲۱٫۱ درصد داشتند. مقاله همچنین از مشکلات پایدار در هماهنگ‌کردن ابزارها و مدیریت جست‌وجوهای طولانی خبر می‌دهد؛ چکیده ارائه‌شده مشخص نمی‌کند کدام مدل بهترین عملکرد را داشته است.

چرا مهم است

OpenDS-World برای پژوهشگرانی که عامل‌های پژوهش وب می‌سازند، آزمونی بر بستر وب زنده فراهم می‌کند. نتایج نشان می‌دهد این مأموریت‌ها همچنان دشوارند، اما چکیده مشخص نمی‌کند این امتیازها در استفاده روزمره چه معنایی دارند.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.