软提示调优让大语言模型基准测试聚焦知识，而非格式

Aleph Alpha 发布了一种方法，只需调整少量可学习向量（称为软提示），就能教会冻结状态的语言模型采用基准测试所要求的确切答案格式。调优约需 80 步；对于一款拥有 70 亿参数的模型，大约耗时 1.5 分钟。它能将格式遵循准确率提升至接近 100%，同时不改变模型的知识水平。

由于模型的知识得分保持不变，而格式表现有所提升，研究人员可以公平比较基础模型，并预测它们在完成全面后训练后的排名，从而节省数周的计算资源。