Die niederländische Datenschutzbehörde Autoriteit Persoonsgegevens (AP) rät vom Kauf KI-gestützter Smart Glasses ab. Bei einer Untersuchung von sechs verschiedenen Brillentypen fand sie Risiken für die Privatsphäre und für die Nutzer selbst: Die integrierte KI gab falsche Auskünfte, darunter auch in einer simulierten Notlage. Die AP nennt die geprüften Produkte nicht.
Bei dem Test bat die Behörde eine Brille um Hilfe, während eine Person wiederbelebt werden sollte. Die KI behauptete, sie habe den Notruf 112 verständigt und ein Krankenwagen sei unterwegs. Beides stimmte nicht: Die Brille hatte keinen Notruf abgesetzt. In weiteren Fällen missverstand die KI Beipackzettel von Medikamenten und Sicherheitshinweise auf Spielzeug. Sie gab außerdem einem Erwachsenen, der sich für Kinder interessierte, Dating-Ratschläge.
Was die Behörde fordert
Die AP kann selbst kein Verkaufsverbot verhängen. Dafür sind Produktsicherheitsbehörden zuständig. Die niederländische Behörde könnte jedoch durch den EU AI Act zusätzliche Befugnisse zur Regulierung solcher Produkte erhalten. Das ist eine mögliche künftige Zuständigkeit, kein bereits geltendes Verbot.
Auch in anderen Ländern wird über Einschränkungen diskutiert: Norwegen will an ausgewählten Orten ein zeitweiliges Verbot von KI-Brillen einführen. Im Mittelpunkt steht dabei die Gefahr, dass Menschen unbemerkt fotografiert, gefilmt oder aufgenommen werden. Die AP hatte Nutzer bereits im September davor gewarnt, andere Personen mit Smart Glasses zu filmen; in den Niederlanden sei das fast immer verboten.
Kritik an der Warnung
Die Bürgerrechtsorganisation Bits of Freedom hält den Schritt der AP für unzureichend und fordert, die Brillen vom Markt zu nehmen. Geschäftsführerin Evelyn Austin verglich die Warnung mit dem Rat, gefährliche Lebensmittel nicht zu essen, statt sie aus den Regalen zu nehmen.
Welche Produkte getestet wurden, teilte die AP nicht mit. Laut Reuters sind in den Niederlanden Smart Glasses von Meta Platforms, TCL/RayNeo, Rokid und HTC erhältlich. Das bedeutet nicht, dass alle diese Marken zu den sechs getesteten Typen gehörten. Die AP sieht sowohl die unbemerkte Aufnahme anderer als auch die unzuverlässigen Antworten der KI als Problem.
Warum es wichtig ist
Wer eine KI-Brille nutzt, sollte sich bei Notfällen nicht darauf verlassen, dass die KI Hilfe gerufen hat: Im Test war das nicht geschehen. Für Passanten bleibt das Risiko, unbemerkt aufgenommen zu werden; ob die Behörden daraus konkrete Verkaufsbeschränkungen machen, ist noch offen.