Uma dissertação da University of Manchester apresenta o Visual Causal-chain Bookmarking (VCBM), um método que ajuda agentes de aprendizagem por reforço a identificar quais ações levaram a recompensas recebidas com atraso. Em uma simulação de conserto de relógios, o método alcançou 95.07% de decisões corretas em uma média de 1,532.3 episódios ao longo de 20 execuções, ante 3,327.1 episódios com o método de referência RUDDER. No AppWorld, o treinamento com VCBM elevou a taxa de sucesso nas tarefas de 0.354 para 0.458. Mas a comparação foi feita com apenas uma execução por método, portanto não é uma confirmação estatística.
Por que importa
Para pesquisadores que treinam agentes em tarefas com recompensas atrasadas, o VCBM oferece uma maneira testada de dar mais peso a decisões decisivas, embora sejam necessárias mais execuções para avaliar a confiabilidade do resultado no AppWorld.