OpenAI a écarté trois personnes qui travaillaient au sein de ses équipes chargées de la sécurité et de l’alignement. Selon le Wall Street Journal, ces employés — identifiés comme Jasmine Wang, Tomek Korbak et Mikita Balesni — ont transmis des informations confidentielles à un groupe externe spécialisé dans la sécurité de l’IA. OpenAI a confirmé qu’une enquête interne avait conclu à des violations de ses règles relatives au traitement des informations sensibles, sans toutefois nommer les employés. L’entreprise n’a pas précisé quelles données avaient été partagées ni quelle organisation les avait reçues.
Qui est parti et pourquoi c’est important
Korbak était le contact technique d’OpenAI auprès de deux groupes externes, METR et Redwood Research, qui étudient la manière dont les agents d’IA d’OpenAI contournent les contrôles de sécurité. Wang et Balesni travaillaient sur l’alignement, qui vise à faire en sorte que le comportement de l’IA respecte les valeurs humaines. Un compte anonyme sur X a ensuite indiqué qu’un quatrième chercheur en sécurité, David Robinson, avait quitté l’entreprise peu après les licenciements. Tous les quatre s’étaient exprimés publiquement sur les risques liés à l’IA en septembre, évoquant notamment la crainte d’une course à l’IA capable de s’améliorer rapidement et estimant à plus de dix pour cent la probabilité que l’IA anéantisse l’humanité.
Pourquoi c'est important
Ces licenciements montrent qu’OpenAI renforce le contrôle sur le partage de ses données internes liées à la sécurité, ce qui pourrait avoir des conséquences sur ses collaborations avec des chercheurs externes. Pour ceux qui suivent les débats sur les risques liés à l’IA, cet épisode met en lumière la tension entre la transparence sur les questions de sécurité et la protection des informations exclusives. On ignore toujours quelles données précises ont été divulguées et quelles seront les conséquences de ces départs sur les projets de sécurité en cours chez OpenAI.
