Am 7. Oktober 2026 kündigte Meta neue KI-Tools an, die Anzeigen aufspüren sollen, über die Nutzer zu Material über sexuellen Kindesmissbrauch gelangen. Das Unternehmen teilte außerdem mit, in der ersten Jahreshälfte 33,2 Millionen solcher Inhalte von Facebook und Instagram entfernt zu haben. Mehr als 97% davon wurden entfernt, bevor Nutzer sie meldeten.
So funktionieren die neuen Tools
Metas neuestes Large Language Model – eine KI, die Texte verarbeitet – sucht nach sogenannten „Wegweisern“: Anzeigen, die harmlos wirken, Nutzer aber auf illegale Websites leiten. Das System prüft nicht nur den Anzeigentext, sondern folgt auch dem Link, um dessen Ziel zu überprüfen. Verstößt die Zielseite gegen die Regeln, kann das System sie sperren. Zusätzlich hat Meta einen „Red-Teaming-KI-Agenten“ entwickelt, der versucht, die eigenen Sicherheitssysteme zu überlisten. So können Entwickler Schwachstellen beheben, bevor Kriminelle sie ausnutzen. Weitere Scans sollen Missbrauchsinhalte aufspüren, die ältere Tools übersehen haben. Außerdem verbessert die Plattform die Erkennung von Wiederholungstätern, die mit neuen Konten zurückkehren.
Weitere Maßnahmen zum Schutz von Kindern
Die neuen KI-Maßnahmen ergänzen eine Reihe von Funktionen zum Schutz von Kindern, die Meta 2026 eingeführt hat. Dazu gehören elterliche Kontrollmöglichkeiten für Meta AI, WhatsApp-Konten für Kinder unter 13 Jahren und Instagram-Warnhinweise, wenn Jugendliche nach Inhalten zu Selbstverletzung suchen. Im August erklärte sich Meta bereit, bis zu $18 Milliarden zu zahlen, um eine Klage von 29 US-Bundesstaaten wegen Bedenken zum Schutz von Kindern beizulegen.
Warum es wichtig ist
Für Nutzerinnen und Nutzer könnte die KI verhindern, dass schädliche Anzeigen unbemerkt zu illegalem Material führen – insbesondere Kinder. Eltern könnten in ihren Feeds seltener auf riskante Links stoßen. Wie wirksam die neuen Tools sind, wird jedoch noch geprüft; unabhängige Prüfungsergebnisse hat das Unternehmen bislang nicht veröffentlicht.
