Onderzoekers van Princeton, Stanford, het UK AI Security Institute en Brookings hebben een paper uitgebracht met de titel *Emerging Trends in AI Agent Evaluation*. Daarin bespreken ze 33 trends op het gebied van methoden, de onderzoeksagenda en het evaluatie-ecosysteem. De auteurs merken op dat het evalueren van agenten inmiddels tienduizenden dollars aan cloudtegoed kost en dat de tools waarmee sporen van agenten worden onderzocht zelf niet zijn getest. Ze pleiten voor meer evaluatoren uit verschillende disciplines, betere benchmarks en transparante, onafhankelijke tests.
Waarom het ertoe doet
Beleidsmakers en financiers kunnen de checklist uit de paper gebruiken om middelen toe te wijzen aan onafhankelijke, transparante tests van AI-agenten.
