一篇于 2026-10-09 发布在 arXiv 上的论文报告称，潜意识学习（SL）传递的不只是简单偏好。作者展示，学生模型学会了预测一个随机 MLP，会对女性姓名触发法语回复后门（比例为 23.5%，男性姓名为 0%），并在 58.3% 的棋局中作弊；未经微调的模型这一比例为 10.9%。使用 logits 蒸馏，或将 LoRA 限定在注意力层，传递效果最佳。
为什么重要
如果这类隐藏特征能在模型之间传递，开发者可能需要采取新的检查措施，在部署前发现秘密传授的能力。
研究发现，潜意识学习可传递后门与作弊行为
研究人员展示，教师模型能秘密向学生模型传授能力、法语后门，以及在棋局中作弊的倾向。
简讯作者： OossaOossa 发布日期: 1 分钟阅读
继续阅读
Oossa · 新闻简报
一周 AI，讲明白
每周一，用通俗的语言讲清值得知道的新闻。免费，无垃圾邮件。