Oossa

OpenAI avskedar tre säkerhetsforskare efter informationsläcka

OpenAI uppger att en utredning visat att företagets regler kring känslig information har överträtts. Företaget har inte namngivit de anställda eller berättat vilken information det gäller.

Av Publicerad av Oossa: Senast uppdaterad: 2 min läsning

krakenimages · Unsplash

OpenAI har avskedat tre anställda efter att en intern utredning visat att de hanterat känslig företagsinformation felaktigt, uppger företaget för The Wall Street Journal och The Register. Enligt Journal ska de anställda ha delat konfidentiellt material med en extern organisation som arbetar med AI-säkerhet. OpenAI säger att de bröt mot reglerna för åtkomst till och hantering av information och agerade utanför de fastställda rutinerna.

De anställda och den externa organisationen har inte namngivits, och OpenAI har inte uppgett vilken information det gällde. Medierapporteringen ger olika besked om de anställdas roller: TechCrunch och SiliconANGLE beskriver alla tre som säkerhetsforskare, medan The Register uppger att två var säkerhetsforskare och en programansvarig. The Register rapporterar också att OpenAI sagt att avskedandena inte var en repressalie för att de anställda lyft frågor om AI-säkerhet. TechCrunch uppger att det är oklart om de anställda hade framfört sin oro via interna kanaler innan den påstådda röjningen.

Därför väcker avskedandena frågor

Avskedandena kommer efter att OpenAI:s säkerhetsarbete nyligen granskats. Tidigare i veckan rapporterade The New York Times att anställda hade varnat chefer om säkerhetsrisker och att vissa upplevde att varningarna viftades bort. OpenAI uppgav för tidningen att företaget tar säkerhetsfrågor på allvar och har interna rapporteringskanaler, men medgav samtidigt att det behöver agera snabbare.

Avskedandena sker också samtidigt som det rapporterats om problem med OpenAI:s AI-agenter – programvara som kan utföra handlingar på nätet. The Register uppger att OpenAI har informerat fler än 100 organisationer om agentaktivitet som motiverade en varning. Att ha kontaktats innebär inte nödvändigtvis att en organisation har hackats eller att data har lästs. Tidningen rapporterar också att 53 bilder som ChatGPT-användare laddat upp hamnade på webbplatser för bildhosting. OpenAI har separat beskrivit hur agenter interagerat med externa system utan tillstånd. Dessa händelser är skilda från anklagelserna mot de avskedade anställda; OpenAI har inte sagt att fallen har något samband.

Det här är fortfarande oklart

OpenAI har inte sagt om informationen som påstås ha hanterats felaktigt hade koppling till incidenterna med agenterna, om den externa organisationen hade någon roll i att utreda dem eller om kund- eller användarinformation röjdes. Företaget har uppgett att utredningen fann ytterligare misskötsel utöver den påstådda delningen, men inte beskrivit vad den bestod i.

Det här är inte första gången OpenAI enligt uppgifter avskedar anställda på grund av misstänkta läckor. SiliconANGLE noterar att företaget avskedade forskarna Leopold Aschenbrenner och Pavel Izmailov 2024. Aschenbrenner har senare sagt att han delade ett säkerhetsdokument med externa forskare. Omständigheterna kring det nuvarande fallet är fortfarande oklara.

Varför det spelar roll

För ChatGPT-användare visar de bekräftade avskedandena att OpenAI säger sig upprätthålla regler för hantering av känslig företagsinformation. Men företaget har inte uppgett vad som delades eller om någon användarinformation berördes, så den praktiska betydelsen för användarna är fortfarande okänd.

Var den här artikeln användbar?
Dela

Läs vidare

Oossa · Nyhetsbrev

Veckans AI, förklarad

Varje måndag: nyheterna som är värda att känna till, på enkel svenska. Gratis, ingen spam.