一项发表在 arXiv 上的研究称,网络结构对模拟语言模型群体最终达成何种共识,几乎没有预测作用。研究人员对八种经过指令微调的模型进行了73,080次受控交流,并将结果用于模拟由10,000个智能体组成的群体。
研究人员表示,模型有时会把观点推向超出其接触过的意见范围之处,一些群体还会对客观上错误的说法达成共识。在模拟中,各模型的内部偏见以及信息的表述方式,比一种名为代数连通度的网络指标影响更大。
为什么重要
使用多个语言模型讨论观点的团队,不应以为改变模型之间的连接方式就能避免共同犯错;研究表明,模型偏见和信息表述方式仍可能左右群体共识。