曼彻斯特大学的一篇学位论文介绍了视觉因果链标记法(VCBM),帮助强化学习智能体识别哪些行动带来了延迟奖励。在一项修理手表的模拟实验中,VCBM经过平均1,532.3轮训练后,正确决策率达到95.07%;这一数据来自20次运行。作为对照,RUDDER基线方法平均需要3,327.1轮。在AppWorld中,采用VCBM混合训练后,任务成功率从0.354升至0.458。不过,这项对比中每种方法都只运行了一次,因此尚不能视为统计学上的验证。
为什么重要
对于训练智能体完成延迟奖励任务的研究人员,VCBM提供了一种经过测试的方法,可让训练更重视影响结果的决策;不过,AppWorld实验仍需更多次运行,才能确认结果是否可靠。