研究人员推出了Taste-Bench,这项测试包含502道题,考察AI模型能否在编程或研究任务中、后续步骤尚未揭示结果前,选择更好的方向。在对14个模型的测试中,GPT-5.6 Sol得分最高,为59.7%;只有模型在两种答案顺序下都选对,相关题目才计为正确。
当线索已经出现时,平均准确率为62.3%;但如果线索要到很久之后才出现,准确率就降至21%。研究人员还训练了一个Qwen3.6-27B模型,为另一个智能体提供建议:在41项留出的SWE-bench Pro任务中,成功率从14.6%升至33.7%。研究团队表示,基准测试和代码均已公开。
为什么重要
对于使用编程智能体的团队来说,这些结果表明,通过任务结束时的测试,并不能说明智能体是否做出了有助于后续工作的选择;Taste-Bench能否预测智能体在日常部署中的表现,目前仍不得而知。