OpenAI sade upp tre säkerhetsforskare – Jasmine Wang, Tomek Korbak och Mikita Balesni – förra veckan. Företaget uppgav att de brutit mot reglerna genom att hantera konfidentiell information. De tre svarade med ett öppet brev där de avvisar anklagelserna och varnar för att uppsägningarna kan göra andra anställda mindre benägna att lyfta säkerhetsfrågor eller samarbeta med externa experter.
Det här står i brevet
I brevet till OpenAI:s säkerhets- och trygghetskommitté och rådgivande grupper hävdar forskarna att de följde etablerad praxis när de samarbetade med externa säkerhetsgrupper. De förnekar att de läckt interna uppgifter om OpenAI:s senaste modeller, däribland en berättelse om ”arkitekturer som är svårare att övervaka”. Wang tillägger att den påstådda överträdelsen – att öppna en chefs e-post – skedde av misstag när hon öppnade en delegerad inkorg, något hon genast rapporterade.
OpenAI:s svar
OpenAI har inte kommenterat brevet offentligt, men delade ett internt pm med TechCrunch. Där hyllas de tre medarbetarnas insatser och det sägs att uppsägningarna inte var en repressalie för att de drivit säkerhetsfrågor. I pm:et står det att företaget ”alltid uppmuntrar” anställda att lyfta farhågor. Företaget klargjorde inte vilka specifika regler som hade brutits eller hur det skyddar anställda som samarbetar med externa granskare.
Varför det spelar roll
Om anställda på OpenAI tror att de kan bli uppsagda för att samarbeta med externa säkerhetsgrupper kan de sluta rapportera risker, vilket kan fördröja upptäckten av farligt modellbeteende. Tvisten visar också hur otydliga interna regler kan påverka forskares möjligheter att samarbeta kring säkerhet i hela branschen.
