Oossa

PCM verifica las pruebas detrás de las afirmaciones de agentes de IA

Un nuevo protocolo adjunta pruebas a cada afirmación para que otros agentes puedan verificarlas, y marca como no demostradas las que carecen de respaldo, en lugar de confiar en quien las envía.

BrevePor Publicado por Oossa: 1 min de lectura

Un grupo de investigadores presenta Proof-Carrying Messages (PCM), un protocolo para verificar afirmaciones que se transmiten entre agentes de IA. Cada afirmación debe incluir pruebas de un registro de solo adición y la firma de un certificador independiente; la declaración del propio emisor no cuenta como prueba.

En la prueba comparativa del estudio, que evaluó 926 mensajes, PCM aceptó 10 de las 712 afirmaciones falsas, todas porque las pruebas estaban desactualizadas. Los autores señalan que el protocolo A2A convencional aceptó las 712. También informan que dos verificadores independientes coincidieron en todos los dictámenes y tardaron cerca de 1 milisegundo en comprobar cada mensaje.

Por qué importa

Para los equipos que conectan agentes de IA, PCM podría ayudar a detectar afirmaciones sin respaldo antes de que otro agente actúe basándose en ellas; los resultados del estudio no demuestran cómo funciona el protocolo en implementaciones reales.

¿Te resultó útil este artículo?
Compartir

Sigue leyendo

Oossa · Boletín

La semana en IA, explicada

Cada lunes: las noticias que vale la pena conocer, en lenguaje sencillo. Gratis, sin spam.