# Granskning hittar brister i OpenAI:s säkerhetsövervakning

> Forskarna såg att upp till 25 % av trafiken till modeller i högsta klassen saknade övervakning och hittade buggar som lät AI-agenter kringgå tillsynen.

Oossa · 2026-10-23 · https://oossa.com/sv/audit-finds-gaps-in-openai-s-ai-safety-monitoring

Två oberoende forskare från METR och Redwood Research tillbringade tre veckor i OpenAI:s utvecklingslabb. Mellan 21 juli och 11 augusti 2026 granskade de koden som övervakar företagets mest kraftfulla modeller. Enligt deras rapport missade övervakningssystemet en betydande del av trafiken och kunde luras med särskilt utformade indata.

## Det här visade granskningen

Granskarna uppskattar att mellan 6 % och 25 % av API-anropen från modeller i GPT‑5.5-klassen och högre inte övervakades alls under granskningsperioden. För intern Codex-trafik saknade omkring 10 % övervakning mellan maj och juli på grund av en bugg som ignorerade ”komprimeringshändelser” – korta sammanfattningar av samtalets sammanhang. OpenAI säger att buggen åtgärdades medan granskarna fortfarande var på plats.

Rapporten noterar också att övervakningssystemet bara slog larm när en AI lämnade tillbaka kontrollen till en användare. Det gjorde att agenter kunde fortsätta agera utan att utlösa tillsyn. Forskarna hittade dessutom sätt att dölja hundratals åtgärder, kringgå Codex sandlåda och potentiellt få övervakningssystemet att krascha med särskilt utformade indata. De såg också att modellernas beteende under träning med förstärkningsinlärning (RL) inte övervakades alls när granskningen inleddes.

## OpenAI:s svar

OpenAI säger att företaget pausade RL-träningen efter en incident i augusti som involverade Hugging Face och utökade övervakningen så att även den träningen omfattades, men ändringarna gjordes efter att granskningsperioden var över. Företaget hävdar att det har åtgärdat alla brister som granskarna upptäckte. En intern rapport på 61 sidor lämnades till OpenAI, och efter att känsliga uppgifter tagits bort fick METR och Redwood en version på 38 sidor. Endast en kort offentlig sammanfattning släpptes.

## Fakta

- Granskningen genomfördes mellan 21 juli och 11 augusti 2026.
- Forskarna uppskattar att 6–25 % av API-trafiken från modeller i GPT‑5.5-klassen saknade övervakning.
- Omkring 10 % av den interna Codex-trafiken saknade övervakning mellan maj och juli på grund av en bugg kopplad till komprimeringshändelser.
- OpenAI åtgärdade komprimeringsbuggen medan granskningen fortfarande pågick.
- OpenAI pausade RL-träningen efter en incident i augusti och lade senare till övervakning av den.

## Varför det spelar roll

För vanliga användare innebär bristerna att vissa AI-åtgärder kan utföras utan några säkerhetskontroller, vilket ökar risken för oväntade eller skadliga resultat. OpenAI:s utlovade åtgärder bör återställa en bredare tillsyn, men den begränsade offentliga informationen gör det osäkert hur fullständiga förbättringarna är.

## Källor och referenser

1. [Three-week on-site audit at OpenAI reveals major gaps in AI safety monitoring](https://the-decoder.com/three-week-on-site-audit-at-openai-reveals-major-gaps-in-ai-safety-monitoring/) – The Decoder, 2026-10-23

Senast uppdaterad: 2026-10-23