Oossa

OpenAI lanserar gratis verktyg för att hitta övergreppsbilder

OpenAI presenterar ett verktyg som upptäcker AI-genererade övergreppsbilder på barn med färre falsklarm och erbjuds kostnadsfritt till granskade organisationer.

Av Publicerad av Oossa: 2 min läsning

Clint Patterson · Unsplash

Vid en pressbriefing i Washington, D.C. den 16 november 2026 presenterade OpenAI en ny bildklassificerare för material med sexuella övergrepp mot barn (CSAM). Företaget uppger att systemet kan upptäcka både verkliga och AI-genererade övergreppsbilder och minskar antalet falska positiva resultat som granskare måste hantera. OpenAI kommer att erbjuda verktyget kostnadsfritt till utvalda ideella organisationer, brottsbekämpande myndigheter och andra granskade samarbetspartner. Företaget publicerar också vägledning för utvecklare om hur de kan upptäcka den här typen av innehåll.

Beskedet kommer samtidigt som CyberTipline, rapporteringslinjen hos National Center for Missing and Exploited Children (NCMEC), överhopas av rapporter med koppling till AI. NCMEC registrerade 400,000 rapporter om CSAM skapat med generativ AI under 2025, jämfört med 67,000 året dessförinnan. Enligt myndighetsföreträdare kan den kraftiga ökningen göra arbetsbördan ohanterlig. North Carolinas justitieminister Jeff Jackson kallade ökningen ”explosiv” och varnade för att myndigheten kan misslyckas med sitt uppdrag om det saknas nya verktyg.

Så fungerar klassificeraren – och vad OpenAI ändrar i övrigt

OpenAIs klassificerare poängsätter varje bild utifrån visuella kännetecken som den inte tidigare har stött på och hjälper sedan granskare att hitta innehåll som sannolikt visar övergrepp. I tidiga tester med samarbetspartner uppgav företaget att verktyget flaggar 48 % färre bilder, samtidigt som det hittar lika många bilder med övergrepp. Bilderna som flaggas har dubbelt så stor sannolikhet att faktiskt innehålla övergrepp. Systemet har också en särskild markering för AI-genererat CSAM, något som OpenAI säger är det första i sitt slag.

Samtidigt uppdaterar OpenAI ChatGPT med varningsskärmar för användare som ber om sexualiserat innehåll som involverar barn. Vid det första övertrampet pausas kontot i 24 timmar och användaren hänvisas till stödresurser. Upprepade övertramp kan leda till att kontot stängs permanent. OpenAI uppger att företaget rapporterar alla fall av CSAM som det upptäcker till NCMEC.

Varför det här är viktigt nu

Beslutsfattare driver på för strängare regler för AI-säkerhet, och flera delstater har redan antagit lagar som omfattar syntetiskt CSAM. Genom att erbjuda klassificeraren gratis och utbilda utredare hoppas OpenAI minska flödet av falska bilder, som kan skymma verkliga övergrepp, och ge brottsbekämpande myndigheter bättre förutsättningar att agera snabbt. Enligt delstaternas justitieministrar är metoden fortfarande experimentell, men den innebär en ny modell för samarbete mellan ett teknikföretag och myndigheter som arbetar med att skydda barn.

Varför det spelar roll

För allmänheten kan klassificeraren innebära att olagligt innehåll tas bort snabbare och att oskyldiga bilder mer sällan rapporteras av misstag. Brottsbekämpande myndigheter får tydligare besked om vilka bilder som verkligen behöver utredas, vilket potentiellt kan skydda fler verkliga offer. Verktygets effektivitet i praktisk användning utvärderas dock fortfarande, och det är fortsatt endast tillgängligt för organisationer som uppfyller OpenAIs granskningskrav.

Var den här artikeln användbar?
Dela

Läs vidare

Oossa · Nyhetsbrev

Veckans AI, förklarad

Varje måndag: nyheterna som är värda att känna till, på enkel svenska. Gratis, ingen spam.