自我参照验证减少多模态大语言模型的认同偏差

Moises Andrade及其同事提出了SGV，这是一种用于多模态大语言模型的验证技术：模型先列出正确行为应有的表现，再依据这份清单判断某个具体操作。论文显示，该方法能减少模型过度认可操作的倾向——这种现象称为认同偏差——使故障检测率最多提高25个百分点，整体准确率提高14个百分点。研究人员将验证器应用于OSWorld中的图形用户界面专用模型、RoboMimic中的扩散策略，以及VisualWebArena中的ReAct智能体；与此前最佳结果相比，这些验证器将任务完成率提高了约20个百分点。