在一项理论物理研究任务测试中,运行于OpenAI的Codex编程环境中的GPT-6-Astra解出了50道题中的49道。研究作者称,这次测试总成本略低于$116,平均每题约$2.40。测试比较了市面上可用的AI智能体,没有提供任何人工提示。
启用网络搜索后,Anthropic的Opus 5.5在Claude Code中得分为92%。Google的Gemini 3.8 Flash得分为68%,开源权重模型DeepSeek-V4.1-Flash和GLM 5.3分别得分为54%和42%。关闭网络搜索后,Astra和Opus的得分均为92%。
考的是计算,不是新发现
这50道题涵盖11个子领域,从流体流动、生物过程到粒子物理和宇宙学。题目大多是常规研究计算:将已知方法用于经过改动的问题,而不是解决重大的未解难题。作者表示,这类任务可以作为博士生的早期研究项目。
其中一道题要求改编一篇早期黑洞论文中的方程,并编写自定义程序计算结果。研究人员称,题目经过设计,无法直接从论文中照搬答案。每个智能体都进行了两轮测试:一轮启用网络搜索,另一轮不接入互联网。
成绩也有局限
研究人员发现,一些看似属于AI的错误,实际上是专家参考答案中的细微错误。更正这些答案后,Astra在相关题目上的回答是正确的。Astra唯一没解出的那道题难住了所有模型;作者也承认,预期答案可能难以推断,题目设置并不公平。
这些计算题上的高分并不能证明AI能够选出有价值的研究问题,或在物理学上取得突破。作者表示,当前的智能体仍难以判断哪些问题值得研究,也不善于在必要时转向更容易解决的问题。题目集和测试设置已发布在Hugging Face上。
为什么重要
对物理专业学生和导师而言,这些结果表明,一些过去常用作入门研究项目、以计算为主的任务可能更容易实现自动化;作者认为,除非目的是练习,否则这类任务或许不再适合作为第一个研究项目。这项测试并未证明AI能否选出有价值的问题或提出新的物理学成果,因此它对这些计算任务以外的研究会产生何种影响,目前仍不清楚。