研究人员推出了OpenDS-World,这是一项基准测试,用于评估AI智能体能否借助搜索、浏览器交互和多种文件格式,在实时网络上查找答案。该基准包含200项任务,并由人工核查证据,确认每项任务都有唯一答案。
研究人员在同一套工具配置下评估了12个模型,表现最好的模型准确率为39.0%。人类评估者在1,000次尝试中的准确率为21.1%。论文还指出,智能体在协调工具和处理耗时较长的搜索方面仍存在持续问题;所提供的摘要没有说明哪款模型表现最佳。
为什么重要
对于开发网页研究智能体的研究人员来说,OpenDS-World提供了一项实时网络测试;测试结果表明,这类任务仍然很难,但摘要并未说明这些分数在日常使用中意味着什么。