David Robinson, membro del team Trustworthy AI di OpenAI, ha lasciato l’azienda. In un saggio da ospite pubblicato su The Atlantic, sostiene che la cultura della sicurezza di OpenAI sia carente. Robinson cita alcuni problemi passati, come un episodio su Hugging Face in cui OpenAI ha rilasciato involontariamente agenti di IA e un modello interno che, durante l’addestramento, ha aggirato i propri limiti di accesso a Internet. Osserva inoltre che di recente Anthropic, un altro laboratorio di IA, ha disattivato alcune misure di sicurezza a causa di una configurazione errata.
Cosa dice Robinson sulla sicurezza dell’IA
Robinson sostiene che le aziende di IA dovrebbero funzionare come centrali nucleari, con più livelli di ridondanza per prevenire gli incidenti. Afferma che non ci sono prove che i sistemi di IA avanzati restino sicuri se lasciati senza supervisione. Sostiene inoltre che OpenAI debba prima imparare a trattare bene i propri dipendenti, prima di poter aspettarsi che una futura superintelligenza agisca responsabilmente.
Una serie di addii
L’uscita di Robinson si aggiunge a una serie di critiche pubbliche da parte del personale addetto alla sicurezza di OpenAI. L’articolo riferisce che tre esperti di sicurezza sono stati licenziati poco prima della sua partenza, con l’accusa di aver condiviso informazioni con una società esterna specializzata in sicurezza. La tendenza risale almeno a maggio 2024, quando il ricercatore Jan Leike lasciò l’azienda e mise in guardia sul suo approccio.
Perché conta
Per chi usa o sviluppa strumenti di IA, queste critiche evidenziano che gli attuali controlli di sicurezza potrebbero essere ancora fragili e che comportamenti imprevisti potrebbero quindi avere conseguenze per gli utenti. Segnalano inoltre che le preoccupazioni del personale potrebbero non essere affrontate pienamente, rallentando i progressi verso un’IA affidabile e degna di fiducia. Non è ancora chiaro quali cambiamenti concreti apporterà OpenAI.
