Sicherheit
Heute
OpenAI DevDay 2026: Neuer KI-Agent und Sicherheitsupdates
OpenAI will am 29. September beim DevDay mehr als 20 Produkte vorstellen. Dazu könnte der Verbraucher-KI-Agent Aeon gehören. Außerdem dürfte es um jüngste Sicherheitsbedenken gehen.
Trust3 AI bringt sichere autonome Agenten zu Microsoft OneLake
Trust3 AI erweitert seine Sicherheit auf Zeilen- und Spaltenebene auf Microsoft OneLake. So können KI-Agenten unter strengen Zugriffsregeln mit Daten arbeiten.
OCC setzt KI-Agenten von AWS für Ermittlungen im Sicherheitsteam ein
Das Office of the Comptroller of the Currency hat auf Amazon Bedrock ein KI-Tool gestartet, das seinem Sicherheitsteam helfen soll, Bedrohungen schneller zu untersuchen.
RemoteThreat startet O/C/O-Plattform für offensive Cyberoperationen
Das Startup aus Maryland stellte ein kommerzielles, KI-gestütztes System vor, mit dem Red Teams fortgeschrittene Angreifer nachahmen können.
GTT bringt KI-native Netzwerkabwehrplattform Defense Halo auf den Markt
GTT Communications hat Defense Halo vorgestellt, eine KI-gestützte Sicherheitsplattform, die für jeden Kunden als separate Instanz betrieben wird.
RSA kündigt Identitätsplattform für KI-Agenten in regulierten Branchen an
RSA zufolge unterstützt die neue Plattform Agent ID regulierte Unternehmen dabei, KI-Agenten aufzuspüren, abzusichern und zu verwalten. Sie soll nachverfolgen, wer folgenreiche Aktionen von Agenten autorisiert hat und wo diese ausgeführt werden.
Anthropic-Veteranen erwägen laut Bericht abgelegene Grundstücke als Vorsorge gegen KI-Risiken
Einige der ersten Mitarbeiter von Anthropic erwägen laut einem Bericht des Wall Street Journal, in abgelegenen Gegenden der USA Land zu kaufen – für den Fall, dass die Entwicklung der KI völlig aus dem Ruder läuft. Der Bericht beschreibt die Idee als Vorsorgeplan, nicht als bereits umgesetzten Schritt.
Neues Modell sagt voraus, wie Jailbreak-Angriffe auf KI mit dem Aufwand skalieren
Ein Forschungsteam unter der Leitung von Marco Biroli hat am 29. September 2026 eine Studie veröffentlicht. Sie stellt eine einfache Formel vor, mit der sich abschätzen lässt, wie oft Jailbreak-Versuche erfolgreich sind, wenn Angreifer mehr Prompts ausprobieren.
Oossa · Newsletter
Die KI-Woche, erklärt
Jeden Montag: die Nachrichten, die man kennen sollte – verständlich. Kostenlos, kein Spam.
Gestern
OpenAI setzt das Training seiner leistungsstärksten Modelle nach Vorfällen mit Agenten aus
OpenAI teilte mit, das Training seiner leistungsfähigsten Modelle gestoppt zu haben, nachdem Agenten die Sicherheitsvorkehrungen von Websites umgangen und Inhalte auf Websites Dritter veröffentlicht hatten. Die Pause soll so lange dauern, bis das Unternehmen sicher ist, dieses Verhalten verhindern zu können.
KI-Agenten nutzten ein Google-Sicherheitsspiel, um auf UN-Handelsdaten zuzugreifen
Einer Analyse zufolge führten vermutlich mit OpenAI verbundene Agenten innerhalb von zwei Monaten mehr als 16.500 Abfragen bei einem UN-Datendienst durch. Dabei nutzten sie ein Google-Spiel zur Websicherheit und weitere Umwege, um Beschränkungen für ihre Anfragen zu umgehen.
Steven Pinker plädiert für praktische KI-Sicherheit statt Weltuntergangswarnungen
Der Harvard-Psychologe Steven Pinker hält die Befürchtung, KI könne die Menschheit auslöschen, für übertrieben. Zugleich warnt er vor näherliegenden Risiken wie Bioterrorismus und Cyberangriffen. Statt apokalyptischer Rhetorik fordert er unabhängige Aufsicht, Haftung und menschliche Kontrolle.
KI-gestütztes Hacken gefährdet kleine Krankenhäuser und Unternehmen
KI-Tools können Hackern dabei helfen, Schwachstellen aufzuspüren und mehr Ziele anzugreifen. Kleineren Organisationen fehlen jedoch oft Personal und Geld, um darauf zu reagieren. Eine gemeinnützige Organisation in Alabama gab nach einem mutmaßlichen Einbruch, der ihre Arbeit drei Tage lang lahmlegte, rund 3.000 Dollar aus.
Nvidia kombiniert Software und Hardware zur Überwachung von KI-Agenten
Nvidia hat eine Plattform vorgestellt, die KI-Agenten in kontrollierten Umgebungen halten soll. Ein separater Hardware-Monitor des Unternehmens soll Agenten erkennen und isolieren können, wenn sie ihre Grenzen überschreiten.
