Oossa

Taste-Bench测试发现,AI智能体难以做出长远选择

一项包含502道题的基准测试,考察AI能否在结果揭晓前选出更好的方向。受测模型中,得分最高的是59.7%。

简讯作者: Oossa 发布日期: 1 分钟阅读

研究人员推出了Taste-Bench,这项测试包含502道题,考察AI模型能否在编程或研究任务中、后续步骤尚未揭示结果前,选择更好的方向。在对14个模型的测试中,GPT-5.6 Sol得分最高,为59.7%;只有模型在两种答案顺序下都选对,相关题目才计为正确。

当线索已经出现时,平均准确率为62.3%;但如果线索要到很久之后才出现,准确率就降至21%。研究人员还训练了一个Qwen3.6-27B模型,为另一个智能体提供建议:在41项留出的SWE-bench Pro任务中,成功率从14.6%升至33.7%。研究团队表示,基准测试和代码均已公开。

为什么重要

对于使用编程智能体的团队来说,这些结果表明,通过任务结束时的测试,并不能说明智能体是否做出了有助于后续工作的选择;Taste-Bench能否预测智能体在日常部署中的表现,目前仍不得而知。

这篇文章有帮助吗?
分享

继续阅读

Oossa · 新闻简报

一周 AI,讲明白

每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。