Oossa

PCM prüft die Belege für Behauptungen von KI-Agenten

Ein neues Protokoll versieht jede Nachricht mit überprüfbaren Belegen. Fehlen diese, gilt die Behauptung als nicht belegt – statt dass dem Absender vertraut wird.

KurzmeldungVon Von Oossa veröffentlicht: 1 Min. Lesezeit

Forschende stellen Proof-Carrying Messages (PCM) vor, ein Protokoll zur Überprüfung von Behauptungen, die zwischen KI-Agenten ausgetauscht werden. Jede Behauptung muss Belege aus einem nur erweiterbaren Protokoll sowie die Signatur eines unabhängigen Prüfers enthalten. Die Aussage des Absenders allein gilt nicht als Nachweis.

Im Benchmark der Studie mit 926 Nachrichten akzeptierte PCM 10 von 712 Lügen – in allen Fällen, weil die Belege veraltet waren. Laut den Autoren akzeptierte das einfache A2A alle 712. Sie berichten außerdem, dass sich zwei unabhängige Prüfer bei jedem Urteil einig waren und für die Prüfung einer Nachricht etwa 1 Millisekunde benötigten.

Warum es wichtig ist

Für Teams, die KI-Agenten miteinander verbinden, könnte PCM unbelegte Behauptungen kenntlich machen, bevor ein anderer Agent darauf reagiert. Die Ergebnisse der Studie belegen jedoch nicht, wie sich das Protokoll im praktischen Einsatz bewährt.

War dieser Artikel hilfreich?
Teilen

Als Nächstes lesen

Oossa · Newsletter

Die KI-Woche, erklärt

Jeden Montag: die Nachrichten, die man kennen sollte – verständlich. Kostenlos, kein Spam.