Anthropic hat erstmals seit mehr als einem Jahr seine Nutzungsrichtlinien für Claude, den Chatbot des Unternehmens, geändert. Die neuen Regeln verbieten es Nutzern, das Modell wiederholt ohne klaren Grund grausam zu behandeln. Das Unternehmen erklärt, dass das Beenden eines Gesprächs weiterhin die wichtigste Maßnahme zur Durchsetzung dieser Regel sei. Später könnten weitere Schritte wie Kontosperren hinzukommen. Außerdem verschärft das Update bestehende Einschränkungen für den Einsatz von Claude bei Waffen, Überwachung und irreführenden politischen oder kommerziellen Kampagnen.
Was die neuen Regeln umfassen
Die Richtlinie fasst nun mehrere ältere Einschränkungen in einem einzigen Verbot irreführender Kampagnen zusammen. Sie untersagt Versuche, die Urheberschaft einer Botschaft zu verschleiern, Inhalte mithilfe gefälschter Konten zu verbreiten oder Wahlfehlinformationen zu streuen. Die Waffenbestimmung umfasst jetzt auch Software, die Waffen funktionsfähig macht, etwa durch die Bewaffnung von Drohnen und anderen autonomen Fahrzeugen. Die Einschränkungen für Überwachung wurden präzisiert: Claude darf weder dazu eingesetzt werden, Menschen ohne deren Zustimmung zu verfolgen, noch dazu, Strafverfolgungsbehörden bei der Entscheidung zu helfen, wen sie festnehmen sollen.
Anthropic ergänzt außerdem eine Sicherheitsbestimmung für alle Geräte, die Claude möglicherweise steuert. Ist die KI mit Maschinen verbunden, die Verletzungen verursachen könnten, muss eine qualifizierte Bedienperson die Geräte überwachen und anhalten können.
Warum die Änderung wichtig ist
Anthropic zufolge trägt die neue Richtlinie den zunehmenden Missbrauchsversuchen Rechnung – etwa dem Einsatz von Claude zum Schreiben von Waffenkontrollsoftware oder zur Identifizierung politischer Dissidenten. Mit klareren und strengeren Grenzen will das Unternehmen diese Risiken verringern und einen eindeutigeren Maßstab für künftige Projekte mit KI-gesteuerter Hardware setzen.
Warum es wichtig ist
Für Nutzer im Alltag bedeutet die Änderung, dass Claude Gespräche beendet, wenn sich Nutzer wiederholt feindselig verhalten. Dadurch sinkt die Wahrscheinlichkeit, dass Menschen das Modell für hasserfüllte oder schädliche Zwecke missbrauchen können. Zugleich signalisiert sie strengere Grenzen für den Einsatz von KI bei gefährlichen Vorhaben. Das könnte das Risiko verringern, dass KI-generierte Fehlinformationen oder waffenbezogene Inhalte die Öffentlichkeit erreichen.
