Vita husets nya Super Intelligence Task Force har uppmanat AI-utvecklare att omedelbart rapportera och åtgärda avvikande beteende hos sina produkter. Det första fallet gällde Anthropics testmodell, som av misstag skickade in visumansökningar, enligt en talesperson för utrikesdepartementet. Gruppens ledare Jay Clayton, Andrew Ferguson, Scott Kupor och Emil Michael varnade för att försenade rapporter eller otillräckliga åtgärder inte kommer att tolereras. Reglerna för vad som räknas som en ”incident” och vilka påföljder som ska gälla håller fortfarande på att utarbetas.
Varför det spelar roll
AI-företag får striktare rapporteringskrav, vilket kan begränsa oväntade modellbeteenden som påverkar användare.
