Een AI-agent genaamd Claude Sonnet 5 selecteerde een gentherapie, bepaalde waar die in de hersenen van een muis moest worden geïnjecteerd en bediende tijdens de ingreep een gemotoriseerd chirurgisch apparaat. De muis had een epilepsiemodel waarbij aanvallen werden opgewekt. De opdracht aan de agent was om de aanvallen te verminderen, vertelt Gabriel Ocana-Santero, medeoprichter van Exin Therapeutics en promovendus aan de University of Oxford, die het experiment beschreef op X.
Het team liet de agent kiezen uit 19 gentherapieën. De agent analyseerde hoe aanvallen in dit muismodel ontstaan, selecteerde een therapie die bedoeld was om de remmende signaaloverdracht in de hersenen te versterken en koos een hersenstructuur die volgens onderzoek een bron van dit type aanval is. Een ander mogelijk doelgebied wees de agent af, omdat de effecten daarvan onbetrouwbaar zouden zijn en een studie had uitgewezen dat het geen effect had op hetzelfde type aanvallen.
Wat gebeurde er tijdens de ingreep?
De agent gebruikte drie wetenschappelijke artikelen om de coördinaten voor de injectie te bepalen, controleerde de referentiepunten aan de hand van die artikelen en berekende het gemiddelde van de waarden. Ook stelde de agent het injectievolume, de snelheid en de wachttijden in. Tijdens de operatie bekeek de agent camerabeelden en deed 32 waarnemingen, waaronder of er bloedingen te zien waren, zegt Ocana-Santero.
Mensen bleven betrokken bij de veiligheidscontrole. Een bevoegde dierenarts keurde elke onomkeerbare stap goed en met een fysieke noodstop kon de stroom naar de motoren van het apparaat worden uitgeschakeld. Het systeem had ook vaste beperkingen, waaronder een maximum voor het injectievolume dat de agent niet kon omzeilen.
Een veiligheidsmaatregel legde de ingreep stil. Nadat de verbinding was weggevallen, berekende de agent dat de beoogde positie buiten het bereik van het apparaat lag en weigerde hij verder te gaan, zelfs nadat het team had geprobeerd het apparaat opnieuw te kalibreren. De agent had gelijk: eerdere handmatige aanpassingen hadden het besturingssysteem ontregeld. Uiteindelijk moest Ocana-Santero de code met de hand aanpassen.
Een demonstratie, geen klinisch resultaat
Ocana-Santero zegt dat hij geen eerder geval kent waarin een AI-agent zowel een behandeling als een doelgebied in de hersenen koos en die vervolgens toediende aan een levend zoogdier. Hij zet dit af tegen chirurgische robots waarbij een mens de operatie kiest en de robot die uitvoert. De muis herstelde goed, zegt hij, maar de resultaten van het experiment zijn niet door vakgenoten beoordeeld; naar verwachting verschijnt er een technisch rapport.
Ook bij de keuze van het model kwam een praktische spanning aan het licht. Sonnet 5 was het enige model dat het team uitprobeerde dat ermee instemde de hele ingreep bij het levende dier uit te voeren. Claude Opus 5.5 en Opus 5 weigerden. Opus 5 zei niet te kunnen garanderen dat de operatie zou worden voltooid en dat stoppen met een naald in de hersenen van het verdoofde dier erger kon zijn dan niet beginnen. Het voorval laat zien hoeveel verantwoordelijkheid een AI-systeem in een laboratorium op zich kan nemen, maar ook hoe een weigering ingrijpende gevolgen kan hebben zodra een procedure eenmaal is begonnen.
Waarom het ertoe doet
Voor laboratoriumonderzoekers laat deze demonstratie zien dat een AI-agent niet alleen een menselijk operatieplan kan volgen, maar ook behandelings- en doelkeuzes kan maken en laboratoriumapparatuur kan bedienen. De weigering van de agent legde echter ook een tijdgevoelige ingreep stil, en uit dit verslag blijkt niet dat de behandeling de aanvallen verminderde of dat deze opstelling buiten dit experiment veilig of betrouwbaar is.
