Oossa

研究发现:大语言模型群体达成共识,网络结构影响有限

一项针对八种语言模型的研究发现,在模拟群体讨论中,模型共有的偏见和信息表述方式,比网络连接方式影响更大。

简讯作者: Oossa 发布日期: 1 分钟阅读

一项发表在 arXiv 上的研究称,网络结构对模拟语言模型群体最终达成何种共识,几乎没有预测作用。研究人员对八种经过指令微调的模型进行了73,080次受控交流,并将结果用于模拟由10,000个智能体组成的群体。

研究人员表示,模型有时会把观点推向超出其接触过的意见范围之处,一些群体还会对客观上错误的说法达成共识。在模拟中,各模型的内部偏见以及信息的表述方式,比一种名为代数连通度的网络指标影响更大。

为什么重要

使用多个语言模型讨论观点的团队,不应以为改变模型之间的连接方式就能避免共同犯错;研究表明,模型偏见和信息表述方式仍可能左右群体共识。

这篇文章有帮助吗?
分享

继续阅读

Oossa · 新闻简报

一周 AI,讲明白

每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。