Oossa

PCM controleert bewijs achter claims van AI-agenten

Een nieuw protocol koppelt bewijs aan elke claim in een bericht, zodat andere agenten die kunnen controleren. Claims zonder onderbouwing worden als onbewezen aangemerkt, in plaats van dat de ontvanger de afzender op zijn woord gelooft.

Kort berichtDoor Gepubliceerd door Oossa: 1 min lezen

Onderzoekers beschrijven Proof-Carrying Messages (PCM), een protocol om claims te controleren die AI-agenten aan elkaar doorgeven. Elke claim moet worden onderbouwd met bewijs uit een logboek waaraan alleen informatie kan worden toegevoegd, en met een handtekening van een onafhankelijke bevestiger. De verklaring van de afzender zelf geldt niet als bewijs.

In de benchmark van het onderzoek met 926 berichten accepteerde PCM 10 van de 712 leugens; in alle gevallen was het bewijs verouderd. Volgens de auteurs accepteerde het gewone A2A alle 712 leugens. Ze melden ook dat twee onafhankelijke controleurs het over elk oordeel eens waren en een bericht in ongeveer 1 milliseconde konden controleren.

Waarom het ertoe doet

Voor teams die AI-agenten met elkaar verbinden, kan PCM helpen onbewezen claims te signaleren voordat een andere agent ernaar handelt. De resultaten van het onderzoek tonen niet aan hoe het protocol in de praktijk presteert.

Was dit artikel nuttig?
Delen

Lees ook

Oossa · Nieuwsbrief

De AI-week, uitgelegd

Elke maandag: het nieuws dat ertoe doet, in gewone taal. Gratis, geen spam.