# Ny metod testar visuella jailbreak-attacker mot AI-modeller

> En artikel på arXiv rapporterar att bildbaserade attacker kringgick skydden i flera multimodala modeller, däribland GPT-5.6 och Gemini 3.1 Pro.

Oossa · 2026-10-30 · https://oossa.com/sv/new-method-tests-visual-jailbreaks-across-ai-models

Händelsedatum: 2026-10-28

En forskningsartikel som skickades in till arXiv den 28 oktober beskriver en metod för att skapa varierade bildbaserade attacker som kan få multimodala stora språkmodeller (MLLM), alltså AI-system som hanterar både bilder och text, att besvara skadliga förfrågningar. Författarna kallar metoden Jailbreak Connectivity. I deras tester uppmättes höga andelar lyckade attacker mot flera modeller, men resultaten är artikelns egna utvärderingar och inte en oberoende bekräftelse på att attackerna fungerar i alla sammanhang.

I stället för att optimera en bild i taget söker Jailbreak Connectivity efter vägar genom bildrymden där attacken fortsätter att fungera. Genom att ta prover längs dessa vägar skapas olika bilder som är tänkta att utlösa samma osäkra svar. Metoden använder också små ”surrogatklassificerare” – enklare modeller som hjälper till att styra attacker mot andra system – och en målfunktion som ska fungera för en rad skadliga frågor, inte bara en enda.

## Vad visade testerna?

På MM-SafetyBench rapporterar artikeln en genomsnittlig andel lyckade attacker på 84.01% mot Qwen3-VL-8B-Instruct, 85.77% mot InternVL3.5-8B och 97.95% mot Gemma-3-12B-IT. Författarna uppger att resultaten överträffade de starkaste jämförelsemetoderna med upp till 68.36 procentenheter. Det är den största rapporterade skillnaden, inte ett påstående om att varje modell överträffades med så mycket.

Artikeln beskriver också så kallade black box-utvärderingar, där angriparna testar en modell utan insyn i dess interna funktion. Jämfört med en attackmetod kallad FigStep uppges Jailbreak Connectivity ha ökat andelen lyckade attacker med 24.69 procentenheter på GPT-5.6 och 27.34 procentenheter på Gemini 3.1 Pro. Sammanfattningen anger inte utgångsnivåerna, testförhållandena eller tillräckliga detaljer för att bedöma hur väl resultaten kan överföras till andra versioner eller användning i verkligheten.

## Vad resultaten visar – och inte visar

Studien bidrar till forskningen om huruvida bildinmatning kan försvaga säkerhetsåtgärder i AI-assistenter. Huvudtesen är att effektiva visuella attacker kan bilda sammanhängande områden i stället för att vara isolerade exempel. Det skulle göra det möjligt för forskare att skapa mer varierade attacker och testa om de fungerar på flera modeller. De rapporterade framgångsnivåerna gör detta till en relevant fråga för utvecklare som utvärderar system som kan hantera bilder, men visar inte att vanliga användare på ett tillförlitligt sätt kan kringgå skydden i vardagliga samtal.

I artikelns sammanfattning framställs resultaten som belägg för strukturerade svagheter i säkerhetsanpassningen. Den visar inte hur metoden fungerar utanför de namngivna utvärderingarna eller om modellleverantörerna har ändrat sina skydd som svar. Det är frågor som behöver besvaras innan siffrorna från testerna kan betraktas som ett mått på risken för användare.

## Fakta

- Artikelns inskickningshistorik på arXiv daterar den till 28 oktober 2026.
- Jailbreak Connectivity rapporterar en genomsnittlig andel lyckade attacker på 84.01% mot Qwen3-VL-8B-Instruct i MM-SafetyBench.
- Artikeln rapporterar en genomsnittlig framgångsnivå på 97.95% mot Gemma-3-12B-IT i samma test.
- I black box-tester uppges metoden ha överträffat FigStep med 24.69 procentenheter på GPT-5.6 och 27.34 procentenheter på Gemini 3.1 Pro.

## Varför det spelar roll

För den som använder AI-assistenter som kan ta emot bilder lyfter artikeln fram en möjlig svaghet i skydden: en bild kan bidra till att framkalla ett skadligt svar även när systemet är utformat för att säga nej. Testerna gäller specifika testmiljöer och modellversioner och säger därför inte hur sannolikt det är att skydden kan kringgås vid vanlig användning.

## Källor och referenser

1. [Jailbreak Connectivity: Towards Diverse, Transferable, and Universal Multimodal Large Language Model Jailbreak](https://arxiv.org/abs/2610.38091) – arXiv cs.LG, 2026-10-30
2. [Component Translation and Judge-Labelled Refusal: A Multilingual Safety Evaluation](https://arxiv.org/abs/2610.38181) – arXiv, 2026-10-30

Senast uppdaterad: 2026-10-30