Ein KI-Agent namens Claude Sonnet 5 wählte eine Gentherapie aus, bestimmte die Injektionsstelle im Gehirn einer Maus und bediente während des Eingriffs ein motorisiertes chirurgisches Gerät. Die Maus war ein Epilepsiemodell mit künstlich ausgelösten Anfällen. Der Auftrag an den Agenten lautete, die Anfälle zu verringern. Das berichtet Gabriel Ocana-Santero, Mitgründer von Exin Therapeutics und Doktorand an der University of Oxford, der das Experiment auf X beschrieben hat.
Das Team stellte dem Agenten 19 Gentherapien zur Auswahl. Er analysierte, wie Anfälle in diesem Mausmodell entstehen, wählte eine Therapie aus, die die hemmende Signalübertragung im Gehirn verstärken sollte, und entschied sich für eine Hirnstruktur, die laut Forschung als Ursprung dieser Art von Anfällen gilt. Ein anderes mögliches Ziel verwarf er mit Verweis auf Bedenken hinsichtlich unzuverlässiger Wirkungen sowie auf eine Studie, in der diese Zielstruktur bei derselben Anfallsart nicht geholfen hatte.
Was geschah während des Eingriffs?
Der Agent nutzte drei wissenschaftliche Arbeiten, um die Koordinaten für die Injektion zu bestimmen, glich die Bezugspunkte ab und bildete den Mittelwert der Werte. Außerdem legte er Injektionsvolumen und -geschwindigkeit sowie Wartezeiten fest. Während der Operation beobachtete er einen Kamerafeed und machte 32 Beobachtungen – darunter, ob er Blutungen sah, sagt Ocana-Santero.
Zur Sicherheit waren weiterhin Menschen eingebunden. Eine approbierte Tierärztin genehmigte jeden unumkehrbaren Schritt, und ein physischer Not-Aus-Schalter konnte die Stromversorgung der Gerätemotoren unterbrechen. Außerdem galten feste Grenzen, darunter eine Obergrenze für das Injektionsvolumen, die der Agent nicht umgehen konnte.
Eine Sicherheitsvorkehrung stoppte den Eingriff. Nachdem die Verbindung abgebrochen war, berechnete der Agent, dass die Zielposition außerhalb der Reichweite des Geräts lag, und weigerte sich weiterzumachen – auch nachdem das Team eine Neukalibrierung versucht hatte. Der Agent lag richtig: Frühere manuelle Anpassungen hatten das Steuerungssystem beeinträchtigt. Ocana-Santero musste den Code schließlich von Hand korrigieren.
Ein Machbarkeitsnachweis, kein klinisches Ergebnis
Ocana-Santero ist nach eigenen Angaben kein früherer Fall bekannt, in dem ein KI-Agent sowohl eine Behandlung als auch ein Ziel im Gehirn ausgewählt und die Therapie einem lebenden Säugetier verabreicht hat. Als Gegenbeispiel nennt er Operationsroboter, bei denen ein Mensch den Eingriff auswählt und der Roboter ihn ausführt. Die Maus habe sich gut erholt, sagt er. Die Ergebnisse des Experiments wurden jedoch noch nicht von Fachleuten begutachtet; ein technischer Bericht soll folgen.
Die Wahl des Modells machte auch einen praktischen Zielkonflikt sichtbar. Sonnet 5 war das einzige Modell, das das Team ausprobierte und das sich bereit erklärte, den Eingriff am lebenden Tier von Anfang bis Ende durchzuführen. Claude Opus 5.5 und Opus 5 lehnten ab. Opus 5 erklärte, es könne nicht garantieren, die Operation abzuschließen, und ein Abbruch mit einer Nadel im Gehirn des narkotisierten Tieres könne schlimmer sein, als gar nicht erst anzufangen. Der Vorfall zeigt sowohl, wie viel Verantwortung ein KI-System im Labor übernehmen kann, als auch, welche Folgen eine Ablehnung haben kann, sobald ein Eingriff begonnen hat.
Warum es wichtig ist
Für Forschende im Labor deutet die Demonstration darauf hin, dass ein KI-Agent nicht nur einen Operationsplan eines Menschen ausführen, sondern auch Behandlungs- und Zielentscheidungen treffen und Laborgeräte bedienen kann. Die Weigerung des Agenten brachte jedoch einen zeitkritischen Eingriff zum Stillstand. Zudem belegt der Bericht weder, dass die Behandlung die Anfälle verringerte, noch, dass dieses Verfahren über das Experiment hinaus sicher oder zuverlässig ist.
