Tre tidigare säkerhetsforskare på OpenAI uppmanar bolaget att samarbeta mer med oberoende granskare och se till att avancerade AI-modellers resonemang går att övervaka. Wall Street Journal rapporterar att de framförde kraven i ett brev till bolagets styrelse och säkerhetskommittéer.
Forskarna, Jasmine Wang, Tomek Korbak och Mikita Balesni, avskedades efter anklagelser om att ha delat konfidentiell information. OpenAI säger att de bröt mot interna regler; de tidigare anställda bestrider att kontakterna låg utanför deras arbetsuppgifter. OpenAI säger också att bolaget stöder ökad säkerhet och extern granskning, men att uppsägningarna inte berodde på att de lyft säkerhetsfrågor.
Varför det spelar roll
För dem som använder AI-agenter är fortsatt övervakning relevant för säkerheten, men artikeln visar inte om de föreslagna åtgärderna skulle förhindra framtida incidenter.
