Le gouverneur de Californie, Gavin Newsom, a publié une feuille de route pour la mise en œuvre des nouvelles lois de l’État sur l’IA. Elle préconise une supervision indépendante de l’IA de pointe. Parmi les recommandations figure l’obligation, pour les grands concepteurs de modèles d’IA de pointe, de permettre à des évaluateurs agréés d’examiner les risques catastrophiques, ces évaluateurs rendant compte à l’État plutôt qu’aux entreprises qu’ils contrôlent.
La feuille de route indique également que l’État devrait donner la priorité à l’évaluation de la recherche et du développement automatisés en IA, notamment à l’auto-amélioration récursive. Fathom, une organisation qui défend la vérification indépendante, estime que le rapport reprend bon nombre de ses recommandations. La feuille de route présente un cadre proposé, sans préciser la date d’entrée en vigueur des exigences.
Pourquoi c'est important
Si le plan est adopté, les concepteurs d’IA de pointe devront se soumettre à des évaluations indépendantes des risques, mais la feuille de route ne précise pas quand ces obligations s’appliqueraient.