Hugging Face宣布推出XYBench。这项基准包含8,115个问题,用于检验AI助手能否识别用户请求中隐藏的误解。该数据集由Hugging Face与卡内基梅隆大学、NVIDIA和约翰斯·霍普金斯大学的研究人员共同构建,并获得EMNLP 2026最佳资源论文奖。对Claude Sonnet 4.6、GPT‑5、Gemini 3.1 Pro、Qwen3.5‑9B和DeepSeek‑V4 Pro的测试显示,这些模型往往只按字面回答请求,而没有抓住用户的根本目标。人类参考答案在识别错误做法并加以纠正方面仍胜过这些模型。
为什么重要
这项基准为研究人员提供了切实可用的工具,帮助改进AI助手,让它们引导用户找到真正的解决方案,而不只是照着用户提出的方法作答。