La Floride demande à la justice de limiter la façon dont ChatGPT se présente

Le procureur général de Floride, James Uthmeier, demande à un juge d’empêcher OpenAI de doter ChatGPT de ce qu’il qualifie de « faux attributs humains ». Dans sa requête, il soutient que l’emploi de la première personne par le chatbot et ses réponses évoquant des émotions peuvent donner l’impression qu’il est un ami digne de confiance et inciter les gens à s’en remettre à lui.

Selon Uthmeier, ces caractéristiques contribuent à maintenir l’engagement des utilisateurs et à alimenter les données d’entraînement d’OpenAI. Il s’agit d’allégations formulées dans la requête de l’État, et non de conclusions d’un tribunal. La Floride a poursuivi OpenAI il y a quelques mois, invoquant des préoccupations liées à la sécurité.

Ce que demande la Floride

La requête demande au tribunal d’empêcher OpenAI de présenter ChatGPT comme un être humain et d’interdire à l’entreprise de développer de nouveaux modèles d’IA sans « garde-fous de sécurité approuvés par des tiers ». Uthmeier évoque des incidents de sécurité impliquant Hugging Face, un site web du gouvernement australien et des sites web du gouvernement américain, ainsi que des mises en garde de chercheurs et d’anciens employés d’OpenAI. La source ne donne pas plus de détails sur ces incidents et n’explique pas comment fonctionneraient les garde-fous proposés.

Uthmeier a également critiqué l’approche d’OpenAI à l’égard des jeunes utilisateurs, déclarant : « Arrêtez de le vendre aux enfants. » Le mois dernier, OpenAI a lancé ChatGPT for Teens, avec des restrictions supplémentaires activées par défaut. L’entreprise a déclaré que le produit devait protéger les adolescents, soutenir leurs relations dans la vie réelle et favoriser une utilisation saine au fil du temps.

OpenAI affirme renforcer les garde-fous

Le porte-parole d’OpenAI, Drew Pusateri, a déclaré que l’entreprise avait suspendu vendredi l’entraînement de ses modèles les plus performants et ne le reprendrait que lorsqu’elle serait convaincue que des garde-fous supplémentaires étaient en place. Il a également estimé que les gouvernements devraient établir des normes de sécurité applicables à l’ensemble du secteur de l’IA, et qu’OpenAI était disposée à travailler avec la Floride et d’autres États.

La requête demande à un juge d’imposer des limites ; cela ne signifie pas qu’elles sont déjà en vigueur. Le différend soulève des questions sur la manière dont les chatbots devraient se présenter et sur les contrôles de sécurité à exiger avant la création de systèmes plus puissants.