OpenAI a licencié la semaine dernière trois chercheurs en sécurité — Jasmine Wang, Tomek Korbak et Mikita Balesni. L’entreprise affirme qu’ils ont enfreint ses règles en manipulant des informations confidentielles. Dans une lettre ouverte, les trois chercheurs contestent ces accusations et préviennent que leur licenciement pourrait dissuader d’autres employés de soulever des questions de sécurité ou de travailler avec des experts extérieurs.
Ce que dit la lettre
Dans leur lettre adressée au comité de sûreté et de sécurité d’OpenAI et à des groupes consultatifs, les chercheurs affirment avoir respecté les pratiques en vigueur lorsqu’ils collaboraient avec des groupes de sécurité tiers. Ils nient avoir divulgué des informations internes sur les modèles les plus récents d’OpenAI, notamment un article consacré à des « architectures moins faciles à surveiller ». Wang ajoute que la violation qui lui est reprochée — l’accès à la messagerie d’un cadre — résulte de l’ouverture accidentelle d’une boîte de réception déléguée, qu’elle a rapidement signalée.
La réponse d’OpenAI
OpenAI n’a pas répondu publiquement à la lettre, mais a transmis à TechCrunch une note interne qui salue les contributions des trois employés et affirme que les licenciements ne sont pas des représailles pour leurs prises de position sur la sécurité. La note indique que l’entreprise « encourage toujours » ses employés à faire part de leurs préoccupations. OpenAI n’a pas précisé quelles règles avaient été enfreintes ni comment l’entreprise protège les employés qui collaborent avec des auditeurs externes.
Pourquoi c'est important
Si les employés d’OpenAI craignent d’être licenciés pour avoir échangé avec des groupes de sécurité externes, ils risquent de ne plus signaler les risques, ce qui pourrait ralentir la détection de comportements dangereux des modèles. Ce différend montre aussi à quel point le manque de clarté des règles internes peut limiter la collaboration entre chercheurs en sécurité dans tout le secteur.
