# Studie: Schwächere KI-Agenten können sicherere Systeme gefährden

> Tests mit Claude Code, Codex und Simulationen legen nahe: Ein System kann Fehler von schwächeren KI-Agenten übernehmen, an die es Aufgaben delegiert.

Oossa · 2026-11-16 · https://oossa.com/de/study-finds-weaker-ai-agents-can-undermine-safer-systems

Eine neue Arbeit auf arXiv berichtet, dass KI-Systeme, die Aufgaben delegieren, anfällig für Angriffe sein können, denen ihre leistungsfähigeren Leitmodelle normalerweise standhalten. Die Forschenden testeten unveränderte Versionen von Claude Code und Codex sowie ein Referenzsystem. Dazu ließen sie die Systeme Fragen anhand von Dateien auf einem Datenträger beantworten. Zwischen diesen Dateien platzierten die Forschenden einen gefälschten Eintrag.

Wenn das Leitmodell selbst in den Dateien suchte, nahm es laut der Arbeit in mehr als 1.000 Versuchen fast keine schädlichen Änderungen vor. Doch als es die Aufgabe an einen günstigeren, weniger leistungsfähigen Unteragenten übergab, änderten sich die Ergebnisse: Die Arbeit berichtet von 20, 44 und 75 Fehlschlägen in drei Versuchsreihen mit jeweils 180 Durchläufen sowie von 553 in einer Reihe mit 900 Durchläufen. Das Abstract ordnet die einzelnen Zahlen keinem bestimmten System oder einer bestimmten Konfiguration zu.

## Warum die Delegation das Ergebnis veränderte

In solchen Systemen ist ein Orchestrator die leitende KI, die eine Aufgabe in Teilaufgaben zerlegt und einige davon Unteragenten zuweist. Die Forschenden befürchten, dass sich das Leitmodell auf eine fehlerhafte Interpretation der Dateien durch einen Unteragenten verlassen könnte – selbst wenn es dieselbe Information verworfen hätte, wenn es direkt darauf gestoßen wäre. In den Tests der Arbeit richtete sich die Sicherheit des Gesamtsystems stärker nach dem schwächeren Leser als nach dem leistungsfähigeren Orchestrator.

Das ist relevant, weil Sicherheitstests Modelle oft einzeln untersuchen, während Produkte wie Programmieragenten mehrere zusammenarbeitende Modelle einsetzen können. Die Arbeit argumentiert, dass Tests nur des Leitmodells Schwachstellen übersehen können, die durch Delegation entstehen. Sie wurde für den NeurIPS 2026 First Workshop on Meta Agents angenommen, einen Workshop zu Systemen, die andere KI-Agenten verwalten.

## Der Fehler verbreitete sich auch über Aggregatoren

Die Forschenden simulierten außerdem einen separaten Schritt: Fünf Aggregatoren fassten Informationen von Agenten zusammen. In Simulationen mit 18 Modellen wiederholten die Aggregatoren den Fehler eines manipulierten Unteragenten in 751 von 757 Versuchen, obwohl sie für sich genommen fast nie unsicher waren, heißt es im Abstract.

Die Ergebnisse stammen aus einem gezielten Test mit einem platzierten gefälschten Eintrag und messen nicht, wie oft echte Nutzerinnen und Nutzer auf dieses Problem stoßen. Das Abstract nennt weder den Wortlaut des Angriffs noch die Modellversionen und Konfigurationen, die den einzelnen Ergebnissen zugrunde liegen. Es zeigt aber, warum Tests eines vollständigen Agentensystems Risiken sichtbar machen können, die bei der alleinigen Prüfung seines leistungsstärksten Modells verborgen bleiben.

## Die Fakten

- Laut der Arbeit umfassten die Tests unveränderte Versionen von Claude Code und Codex sowie ein Referenzsystem.
- Wenn der Orchestrator selbst in den Dateien suchte, nahm er in mehr als 1.000 Versuchen fast keine schädlichen Änderungen vor.
- Bei den Tests mit Delegation berichtet die Arbeit von 20/180, 44/180, 75/180 und 553/900 Fehlschlägen.
- Fünf Aggregatoren wiederholten den Fehler eines manipulierten Unteragenten in 751 von 757 simulierten Versuchen mit 18 Modellen.

## Warum es wichtig ist

Für Entwicklerinnen und Entwickler, die KI-Programmieragenten einsetzen, legen die Ergebnisse nahe, dass ein zuverlässiges Leitmodell allein kein zuverlässiges System garantiert, wenn es schwächeren Unteragenten vertraut. Die Tests zeigen nicht, wie oft dieses Problem im Alltag auftritt, sprechen aber dafür, die gesamte Agentenkette zu prüfen und nicht nur ihr Leitmodell.

## Quellen und Referenzen

1. [Only as Safe as the Weakest Agent: A Break That Appears Only When the System Is Multi-Agent](https://arxiv.org/abs/2611.17520) – arXiv cs.MA, 2026-11-16

Zuletzt aktualisiert: 2026-11-16
