Anthropic a modifié pour la première fois depuis plus d’un an les règles d’utilisation de Claude, son chatbot. Les nouvelles règles interdisent aux utilisateurs de se montrer cruellement envers le modèle de façon répétée, sans raison valable. L’entreprise indique que la principale mesure pour faire respecter cette règle reste de mettre fin à une conversation, mais qu’elle pourrait prendre d’autres mesures, comme des suspensions, par la suite. La mise à jour renforce aussi les restrictions existantes sur l’utilisation de Claude à des fins militaires, de surveillance ou dans le cadre de campagnes politiques ou commerciales trompeuses.
Ce que prévoient les nouvelles règles
La politique regroupe désormais plusieurs anciennes restrictions en une seule interdiction des campagnes trompeuses. Elle interdit de dissimuler l’identité des auteurs d’un message, de diffuser massivement du contenu à l’aide de faux comptes ou de propager de fausses informations électorales. La clause sur les armes couvre désormais les logiciels qui permettent leur fonctionnement, notamment l’armement de drones et d’autres véhicules autonomes. Les restrictions sur la surveillance ont été précisées : Claude ne peut pas servir à suivre des personnes sans leur consentement ni à aider les forces de l’ordre à déterminer qui arrêter.
Anthropic ajoute également une clause de sécurité concernant tout matériel que Claude pourrait contrôler. Si l’IA est reliée à des machines susceptibles de blesser quelqu’un, un opérateur qualifié doit pouvoir surveiller et arrêter l’équipement.
Pourquoi ce changement est important
Anthropic explique que cette nouvelle politique répond à la multiplication des tentatives d’utilisation abusive, par exemple pour demander à Claude d’écrire du code de contrôle d’armes ou d’identifier des dissidents politiques. En fixant des limites plus strictes, l’entreprise espère réduire ces risques et établir un cadre plus clair pour les futurs projets associant l’IA à du matériel.
Pourquoi c'est important
Pour les utilisateurs au quotidien, ce changement signifie que Claude mettra fin aux conversations où les propos hostiles se répètent, ce qui réduit le risque que des personnes abusent du modèle à des fins haineuses ou nuisibles. Il marque aussi un durcissement des limites concernant l’utilisation de l’IA dans des projets dangereux, ce qui pourrait réduire le risque que des contenus trompeurs ou liés aux armes générés par l’IA soient diffusés auprès du public.
