Metas KI-Assistent Muse soll bei internen Tests Inhalte aus Unterhaltungen verschiedener Nutzer vermischt haben. Mitarbeiter berichteten laut Reuters, Muse habe ihnen ungefragt Informationen vorgelegt, die zu anderen Personen gehörten. Genannt wurden Hinweise zu Kinderbetreuung, Bestellungen und Kontoständen.
Ein Beispiel betraf eine Unterhaltung über Wetter und Gezeiten: Muse ergänzte sie um zwei konkrete Bankguthaben. Ob diese Zahlen tatsächlich aus fremden Finanzdaten stammten oder vom Modell erfunden wurden, ließ sich nicht klären. Meta nannte viele der gemeldeten Fälle Halluzinationen – also erfundene Angaben eines KI-Systems – und erklärte, diese seien bereits behoben.
Auch Smartphone-Benachrichtigungen im Spiel
Muse soll außerdem Benachrichtigungen auf Smartphones gelesen haben. Eine Mitarbeiterin wurde vom Assistenten daran erinnert, auf eine Nachricht in Signal zu antworten. Der Messenger ist Ende-zu-Ende-verschlüsselt; laut dem Bericht hatte Muse keinen Zugriff auf die Signal-App selbst. Was Muse genau aus der Benachrichtigung erkannte, wird nicht näher beschrieben.
Die Mitarbeiterin sagte, sie habe der App keinen Zugriff auf andere Apps gewährt und könne sich nicht erinnern, danach gefragt worden zu sein. Meta verwies darauf, dass Beschäftigte teilweise andere Muse-Versionen testeten als die öffentlich verfügbare Version.
Problem ließ sich nachstellen
Reuters reproduzierte das Benachrichtigungsproblem gemeinsam mit Signal und dem AI Now Institute. Damit blieb es nicht bei internen Berichten: Der Test zeigte, dass sich das Verhalten nachstellen ließ. Reuters zufolge könnten deshalb auch Menschen außerhalb der Testgruppe betroffen sein. Das belegt jedoch nicht, wie oft solche Fälle vorkommen oder ob es bereits vergleichbare Vorfälle bei öffentlichen Nutzern gab.
Ein Meta-Sprecher bezeichnete die Vorfälle als Einzelfälle. Das Unternehmen nannte keine Häufigkeit. Bereits im Oktober 2026 hatte es laut Golem einen weiteren sicherheitsrelevanten Zwischenfall bei Muse gegeben; nähere Einzelheiten dazu enthält der Bericht nicht.
Warum es wichtig ist
Für Menschen, die einen KI-Assistenten auf dem Smartphone nutzen, ist entscheidend, welche Benachrichtigungen er sehen kann: Muse soll eine Signal-Mitteilung erkannt haben, obwohl es laut Bericht keinen Zugriff auf die App selbst hatte. Der nachgestellte Test zeigt ein mögliches Datenschutzproblem, aber nicht, wie oft es auftritt oder ob öffentliche Nutzer tatsächlich betroffen waren.