由 Mochamad Rizal Fauzan 带领的研究人员于 2026‑10‑19 在 arXiv 发布了一篇论文。他们使用 1,000 张 COCO 图像测试了五款开源视觉语言模型(参数量为 2‑5 billion),并通过模拟雾和水逐步降低能见度。在雾中,能见度降至 12.1 m 至 15.9 m 时,模型准确率跌至随机水平,但其报告的内部置信度仍为 0.68‑0.84,口头表达的置信度最高可达 1.0。只有一款模型的置信度变化与准确率相符。
为什么重要
在低能见度环境(如自动驾驶无人机)中使用视觉语言模型的人,可能会被模型过度自信的输出误导。