Oossa

OpenDS-World用200项任务测试网页搜索智能体

研究人员推出一项面向深度搜索智能体的实时网络基准测试。表现最好的模型准确率为39%,人类参与者的准确率为21.1%。

简讯作者: Oossa 发布日期: 1 分钟阅读

研究人员推出了OpenDS-World,这是一项基准测试,用于评估AI智能体能否借助搜索、浏览器交互和多种文件格式,在实时网络上查找答案。该基准包含200项任务,并由人工核查证据,确认每项任务都有唯一答案。

研究人员在同一套工具配置下评估了12个模型,表现最好的模型准确率为39.0%。人类评估者在1,000次尝试中的准确率为21.1%。论文还指出,智能体在协调工具和处理耗时较长的搜索方面仍存在持续问题;所提供的摘要没有说明哪款模型表现最佳。

为什么重要

对于开发网页研究智能体的研究人员来说,OpenDS-World提供了一项实时网络测试;测试结果表明,这类任务仍然很难,但摘要并未说明这些分数在日常使用中意味着什么。

这篇文章有帮助吗?
分享

继续阅读

Oossa · 新闻简报

一周 AI,讲明白

每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。