Oossa

Onderzoek waarschuwt: zelfverbeterende agents kwetsbaar bij veranderende vaardigheden

Onderzoekers introduceren CODA, een test die laat zien dat AI-agents die samen met hun vaardigheden zijn geëvolueerd na implementatie veel van hun winst verliezen als hun vaardigheden veranderen.

Kort berichtDoor Gepubliceerd door Oossa: 1 min lezen

Een team onder leiding van Jinluan Yang publiceerde op 16 oktober 2026 een nieuw artikel op arXiv. Daaruit blijkt dat agents die zijn getraind om zowel hun beleid als een vaardighedenbank te verbeteren, kwetsbaar worden als die bank later verandert. De auteurs stellen een nieuwe evaluatiemethode voor, de CO-evolution Drift Audit (CODA), die veranderingen in vaardigheden simuleert en de consistentie en weerbaarheid meet. Bij vier methoden en vijf benchmarks constateert CODA dat het succespercentage in het slechtste geval met 5-13 punten daalt. Daarmee verdwijnt het grootste deel van de voorsprong die de agents hadden op een basislijn zonder vaardigheden.

Waarom het ertoe doet

Wie AI-agents inzet, zal hun weerbaarheid tegen veranderingen in vaardigheden moeten testen, en niet alleen hun topprestaties.

Was dit artikel nuttig?
Delen

Lees ook

Oossa · Nieuwsbrief

De AI-week, uitgelegd

Elke maandag: het nieuws dat ertoe doet, in gewone taal. Gratis, geen spam.