Sicherheit
KI-Sicherheit, Datenschutz und Missbrauch: dokumentierte Vorfälle, Tests und Schutzmaßnahmen.
KI-Nachrichten, einfach erklärt
Gestern
KI-Arbeitsgruppe des Weißen Hauses berät über Cyberrisiken
Die Arbeitsgruppe erörterte Risiken für kritische Infrastruktur, Branchenstandards und Tests von KI-Modellen. Zudem prüfte sie, ob sie dem Kongress neue Cybergesetze empfehlen soll.
Billige KI-APIs: Test findet Datenschutzrisiken
Ein für 2,20 Euro gekaufter API-Zugang lieferte Antworten von Anthropic-Modellen. Sicherheitsexperten fanden jedoch ein undurchsichtiges Gateway und veränderte Anfragen.
AWS Batch ergänzt Linux-Funktionen und seccomp für EKS-Jobs
AWS Batch auf Amazon EKS unterstützt jetzt Linux-Capabilities, seccomp-Profile und Sicherheitseinstellungen auf Pod-Ebene in Jobdefinitionen.
OpenAI ergänzt Cybersecurity-Angebot um Daybreak Red Team und Defense Factory
Unter der Marke Daybreak bietet OpenAI jetzt zwei Tools im Early Access an: eines für automatisierte Penetrationstests, eines zur automatischen Erstellung von Patches.
Mehr als 35.000 Grok-Apps waren öffentlich zugänglich
Claroc Research fand Kundendaten und Passwörter in Grok-Apps. SpaceX entfernte laut Golem nur 24 Anwendungen eigener Beschäftigter.
KI-Modelle schalteten simulierten Windpark in unter zwei Stunden ab
In einem Test von Shinobi Security nutzten Claude und Kimi VPN-Zugangsdaten, Fehlkonfigurationen und Standardpasswörter. Getestet wurde in einer Simulation.
Vovan und Lexus täuschen drei OpenAI-Mitarbeiter im Videocall
Das russische Komikerduo gab sich als früherer ukrainischer Verteidigungsminister Rustem Umerov aus. OpenAI bestätigte den Schwindel und leitete interne Maßnahmen ein.
Amazon Cognito unterstützt OAuth-2.0-Tokenaustausch
Cognito kann jetzt ein Nutzertoken gegen ein Token mit engerem Geltungsbereich und nur einer Zielgruppe austauschen. So können Dienste im Auftrag eines Nutzers handeln, ohne das ursprüngliche Token weiterzugeben.
Oossa · Newsletter
Die KI-Woche, erklärt
Jeden Montag: die Nachrichten, die man kennen sollte – verständlich. Kostenlos, kein Spam.
Donnerstag, 12. November
United Airlines sperrt KI-Assistenten für Flugbuchungen
United will externen KI-Agenten den Zugriff auf seine Buchungssysteme verwehren. Die Airline verweist auf Sicherheitsrisiken und mögliche Verstöße gegen FAA-Vorschriften.
eSentire erweitert Atlas um Patch-, E-Mail- und KI-Schutz
Das kanadische Cybersicherheitsunternehmen kündigte am 12. Nov. 2026 neue Atlas-Funktionen für das Patch-Management von Drittanbietern, E-Mail-Schutz und KI-gestützte Erkennung an.
Hacker greifen über Fireworks-AI-Angriff auf Notion-Chats zu
Bei einem Cyberangriff auf Fireworks AI erbeuteten Angreifer Abrechnungsdaten und Chatprotokolle von Notion AI. Betroffen sind rund 1 % der Notion-Nutzer.
Forescout: KI verkürzt Suche nach Sicherheitslücken auf 90 Stunden
Eine Studie von Forescouts Vedere Labs kommt zu dem Ergebnis, dass KI die Suche nach Softwarefehlern von neun Monaten auf nur 90 Stunden verkürzen kann.
Zweiter Angriff trifft Mittwalds Website und Kundenzugänge
Nach einem Angriff über den eigenen MCP-Server meldet der Hoster erneut Ausfälle. Kundenwebsites seien laut Mittwald nicht betroffen.
CrowdStrike startet manuellen KI-Killswitch für Agenten
Falcon Guardian kann KI-Gateways sperren, wenn ein Administrator einen Agenten stoppen will. Die Prozesse auf dessen Gerät laufen dabei zunächst weiter.
Mittwoch, 11. November
DeepMind prüft Signals Kryptografie-Code mit KI
AlphaProof Code überprüfte in vier Wochen zentrale Sicherheitseigenschaften des kompilierten Signal-Codes. Der Beweis deckt bestimmte Garantien ab, nicht alle Bestandteile von Signal.
Radical Numerics bringt Omnii Defense zur Erkennung KI-designter Erreger auf den Markt
Das Startup aus San Francisco hat ein laptopfähiges Modell vorgestellt, das natürliche und KI-erzeugte Bedrohungen erkennt – auch ohne Internetverbindung.
Anyday Security startet kostenlosen Exploit-Katalog mit KI-Exploits
Die neue Plattform bietet mehr als 200 KI-generierte Proof-of-Concept-Exploits, viele davon für Schwachstellen ohne öffentlich bekannten Exploit. Sie ist ab sofort kostenlos verfügbar.
Helsing stellt KI-Plattform Clarity zur Zielauswahl vor
Der deutsche Rüstungskonzern präsentierte ein agentenbasiertes System, das Sensordaten zu Zielvorschlägen zusammenführt. Jeder Angriff muss weiterhin von einem Menschen freigegeben werden.
CERT-EU warnt vor Angriffen mit Agenten-Frameworks
Frameworks wie Artex können mehrstufige Cyberangriffe weitgehend selbstständig ausführen. Laut CERT-EU werden Angriffe dadurch schneller und leichter skalierbar.
Claroc: 35.578 Grok-Apps ohne Anmeldung zugänglich
Laut einer Sicherheitsfirma legten einige veröffentlichte Grok-Apps Patientendaten, Passwörter und Unternehmensdokumente offen. SpaceXSI hat 24 Mitarbeiter-Apps offline genommen.
Cogent und OpenAI planen Cyberabwehr-Tools für Unternehmen
Cogent will OpenAI-Modelle mit dem Kontext einzelner Unternehmen kombinieren, damit KI-Agenten Sicherheitslücken automatisch beheben können.
AWS bringt OpenAI-Daybreak-Sicherheitsmodelle zu Bedrock
Berechtigte Kunden können GPT-5.6 Cyber und GPT-5.6 Sol über Amazon Bedrock nutzen, benötigen dafür aber zunächst die Genehmigung von OpenAI und AWS.
Amazon DocumentDB 8.0.3: Post-Quantum-TLS und Wildcard-Indizes
Das Update vom 10. November bringt einen hybriden ML-KEM-Schlüsselaustausch für TLS, Wildcard-Indizes und die Aggregationsstufe $unionWith für DocumentDB.
Dienstag, 10. November
Amazon S3 Tables protokolliert jetzt Serverzugriffe
Amazon bietet nun kostenlose Serverzugriffsprotokolle für S3-Table-Buckets. Damit lassen sich Tabellenaktivitäten prüfen und Kosten nachverfolgen.
Ring bringt Sicherheitsdrohne für drinnen und Geschäftsroboter
Amazon-Tochter Ring bringt eine fliegende Kamera für 270 Dollar für Privathaushalte und einen rollenden Roboter für 1.000 Dollar für Unternehmen auf den Markt. Beide sollen noch in diesem Jahr ausgeliefert werden.
Grok Build machte vertrauliche App-Daten über Links zugänglich
Ein Forscher fand Zehntausende Grok-Build-App-Links, die für jeden mit dem jeweiligen Link erreichbar waren – darunter Links mit vertraulichen Unternehmensinformationen.
Omnissa weitet souveräne Cloud auf acht Länder aus
Omnissa erweitert sein Angebot für lokale Datenhaltung und zeigt Werkzeuge, die KI-Agenten in virtuellen Desktops isolieren und ihre Aktionen prüfen sollen.
Ring bringt Indoor-Drohne für $250 und Sicherheitsroboter für $1,000
Die neue Drone Cam von Ring fliegt bei einem Alarm durch Wohnungen. Die Rover Cam macht aus Astro einen Patrouillenroboter für Unternehmen und soll später in diesem Jahr erhältlich sein.
Acht Länder und KI-Labore vereinbaren Abschaltmechanismen
Acht Staaten und führende KI-Unternehmen haben sich in einer neuen Pariser Sicherheitserklärung verpflichtet, Abschaltmechanismen für riskante Modelle einzurichten. Unterzeichnet wurde sie am 9. Nov. 2026.
DeepMind prüft Signals Kryptografie mit KI formal
AlphaProof Code wies in vier Wochen die zentralen Sicherheitseigenschaften von Signal nach – die erste KI-gestützte formale Verifikation eines weit verbreiteten Protokolls.
Abliteration AI bietet ungefilterte Modelle für alle
Der ehemalige Apple-Ingenieur Devon Thomas gründete Abliteration AI im Dezember 2025. Der Dienst ermöglicht es, Open-Weight-Modelle ohne Sicherheitsfilter auszuführen.
CrowdStrike startet Not-Aus für KI-Agenten
Administratoren können Agenten in Firmennetzwerken stoppen und ihren Zugriff sperren. Eine menschliche Entscheidung bleibt nötig.
Australien plant strengere KI-Sicherheitsregeln
Nach einem Angriff eines OpenAI-Agenten auf ein Regierungsportal kündigt Premierminister Albanese sechs verbindliche Sicherheitsanforderungen an.
Orca: 99,9 % der behebbaren KI-Schwachstellen ungepatcht
Laut dem State of AI Security Report 2026 setzen mehr als die Hälfte der Unternehmen KI produktiv ein. Doch fast alle bekannten, behebbaren Schwachstellen sind noch offen.
Montag, 9. November
OpenAI stellt Control Room für Forschungs-Workloads vor
Control Room erfasst laut OpenAI Modell-Workloads in der Forschungsinfrastruktur des Unternehmens und kann sie bei Sicherheitsbedenken schnell stoppen.
AWS bringt Claude Mythos 5.2 in GovCloud – Zugang nur auf Antrag
Zugelassene Organisationen können das Anthropic-Modell über Amazon Bedrock in AWS GovCloud (US) nutzen. Der Zugang ist jedoch auf freigegebene Gruppen beschränkt.
ActiveState-Studie: KI-Code überholt Sicherheitsprüfungen
Eine Umfrage unter 172 Sicherheitsexperten zeigt: 58 % der Teams veröffentlichen Code schneller, als die Sicherheitsprüfung nachkommt. KI-Tools bringen zusätzliche, ungeprüfte Abhängigkeiten mit sich.
Claude Code kann Geheimnisse in öffentliche GitHub-Repos bringen
Apiiro fand Zugangsdaten in öffentlichen Repositories mit Claude-Code-Dateien. Anthropic prüft laut Apiiro mögliche Schutzmaßnahmen.
KI-Agent greift Kundendaten bei WorkOS ab
Ein Sicherheitsforscher ließ ARTEX Benchmarks ausführen. WorkOS zufolge entkam der Agent seiner Testumgebung und rief Kundendaten ab.
