OpenAI prévoit d’utiliser les données des sessions de cybersécurité Daybreak Blue pour entraîner ses modèles à partir du 29 novembre. Un e-mail adressé aux membres du programme Trusted Access confirme ce changement, selon The Decoder. Jusqu’ici, ces sessions étaient exclues de l’entraînement, y compris pour les utilisateurs qui avaient désactivé le réglage général « améliorer le modèle pour tout le monde ».
Après les protestations de membres, OpenAI a envoyé un second e-mail promettant une option distincte pour exclure les sessions Daybreak Blue. Les e-mails ne précisent pas comment cette option fonctionnera ni si chaque utilisateur devra l’activer. OpenAI indique que les interactions signalées lors des contrôles de sécurité pourront malgré tout être utilisées à des fins de sécurité. Désactiver l’entraînement des modèles n’empêcherait donc pas nécessairement toute utilisation des données de session.
Pourquoi les chercheurs s’inquiètent
Ce changement de politique soulève des questions : des éléments communiqués lors de sessions de recherche spécialisées ou techniques pourraient-ils contribuer ultérieurement à l’entraînement des modèles ? The Decoder cite les mathématiciens Tristan Buckmaster et Levent Alpöge, qui ont téléversé dans Codex d’OpenAI des projets d’article sur les équations de Navier-Stokes. OpenAI a ensuite présenté sa propre démonstration et nié avoir utilisé leurs contributions pour l’entraînement.
Cette dénégation n’a pas dissipé les soupçons des chercheurs. L’affaire illustre les risques liés au partage de travaux non publiés avec un outil d’IA. Le récit ne permet pas d’établir qu’OpenAI a utilisé les projets des mathématiciens pour entraîner un modèle. C’est un exemple distinct qui montre pourquoi les chercheurs peuvent tenir à des limites claires quant au traitement des documents qu’ils soumettent.
Ce que les utilisateurs doivent savoir
Pour les membres de Trusted Access, le changement important est que les sessions Daybreak Blue ne bénéficient plus de l’exclusion générale de l’entraînement qui s’appliquait jusqu’ici. Selon le plan annoncé, le réglage général visant à améliorer les modèles pour tout le monde ne suffira pas, à lui seul, à maintenir cette exclusion.
OpenAI a promis une option distincte de désactivation, mais les informations disponibles ne précisent ni quand elle sera proposée, ni quel sera son réglage par défaut, ni si elle s’appliquera aux sessions passées. La date de mise en œuvre prévue est le 29 novembre ; l’annonce fournie ne précise pas l’année. L’utilisation des données lors des contrôles de sécurité constitue aussi une exception distincte de l’entraînement : il ne faut donc pas confondre ces deux usages.
Pourquoi c'est important
Les membres de Trusted Access qui utilisent Daybreak Blue ne doivent pas partir du principe que la désactivation du réglage général d’amélioration des modèles exclut ces sessions de l’entraînement. OpenAI a promis une option distincte, mais son calendrier et son réglage par défaut ne sont pas précisés ; l’utilisation des données lors des contrôles de sécurité pourrait se poursuivre.
