Un equipo de investigadores encabezado por Qi Zhang presentó PORA, una técnica para agentes LLM que aprende cuándo un razonamiento más prolongado mejora los resultados. Durante el entrenamiento, el sistema ejecuta el mismo paso dos veces —una con un límite de razonamiento breve y otra con uno más amplio— para determinar cuál produce un mejor resultado final. En tiempo de ejecución, un controlador usa esa estimación aprendida y el presupuesto de cómputo restante para elegir la opción más económica, sin ejecutar ambas. En pruebas con tareas de memoria, programación, comercio minorista y matemáticas, obtuvo puntuaciones hasta un 32.9% más altas en una prueba de referencia de memoria y redujo hasta un 31% las llamadas al modelo en tareas matemáticas.
Por qué importa
Permite a los desarrolladores ejecutar agentes de IA más inteligentes que usan menos cómputo en la nube sin perder rendimiento, lo que reduce los costos de los servicios que dependen del razonamiento en varios pasos.
