En AI-agent vid namn Claude Sonnet 5 valde en genterapi, bestämde var i hjärnan på en mus den skulle injiceras och styrde en motoriserad kirurgisk enhet under ingreppet. Musen hade en epilepsimodell där krampanfall framkallats. Agenten fick i uppgift att minska anfallen, enligt Gabriel Ocana-Santero, medgrundare av Exin Therapeutics och doktorand vid University of Oxford, som beskrev experimentet på X.
Teamet lät agenten välja bland 19 genterapier. Den analyserade hur anfallen uppstår i den här musmodellen, valde en behandling som skulle stärka den hämmande signaleringen i hjärnan och pekade ut en hjärnstruktur som forskning identifierar som källa till den här typen av anfall. Den avvisade ett annat möjligt mål med hänvisning till osäkra effekter och en studie där målet inte hade fungerat mot samma typ av anfall.
Vad hände under ingreppet?
Agenten använde tre vetenskapliga artiklar för att ta fram injektionskoordinater, jämförde referenspunkterna och beräknade medelvärdet. Den ställde också in injektionsvolym, hastighet och väntetider. Under operationen följde den en kamerabild och gjorde 32 observationer, bland annat om den såg någon blödning, säger Ocana-Santero.
Människor var fortsatt involverade i säkerhetsarbetet. En legitimerad veterinär godkände varje oåterkalleligt moment, och en fysisk nödstoppknapp kunde bryta strömmen till enhetens motorer. Systemet hade också fasta begränsningar, bland annat ett tak för injektionsvolymen som agenten inte kunde kringgå.
En säkerhetsfunktion stoppade ingreppet. Efter att en anslutning brutits räknade agenten ut att målpositionen låg utanför enhetens räckvidd och vägrade fortsätta, även när teamet försökte kalibrera om den. Agenten hade rätt: manuella justeringar tidigare hade stört styrsystemet. Till slut var Ocana-Santero tvungen att rätta koden för hand.
En demonstration, inte ett kliniskt resultat
Ocana-Santero säger att han inte känner till något tidigare fall där en AI-agent både valt en behandling och ett målområde i hjärnan och sedan genomfört behandlingen på ett levande däggdjur. Han jämför med kirurgiska robotar där en människa väljer ingreppet och roboten utför det. Musen återhämtade sig väl, säger han, men experimentresultaten har inte sakkunniggranskats. En teknisk rapport väntas.
Valet av modell blottlade också en praktisk målkonflikt. Sonnet 5 var den enda modellen teamet testade som gick med på att genomföra hela ingreppet på ett levande djur. Claude Opus 5.5 och Opus 5 vägrade. Opus 5 sa att den inte kunde garantera att operationen skulle kunna slutföras och att det kunde vara värre att avbryta med en nål i hjärnan på det sövda djuret än att inte börja. Händelsen visar både hur stort ansvar ett AI-system kan ta på sig i ett laboratorium och hur en vägran kan få konsekvenser när ett ingrepp väl har inletts.
Varför det spelar roll
För forskare i laboratorier tyder demonstrationen på att en AI-agent kan fatta beslut om behandling och målområde och dessutom styra laboratorieutrustning, i stället för att bara följa en människas operationsplan. Men agentens vägran avbröt också ett tidskritiskt ingrepp, och redogörelsen visar inte att behandlingen minskade anfallen eller att den här uppställningen är säker eller tillförlitlig utöver just detta experiment.
