La Commissione europea starebbe esaminando OpenAI e Anthropic dopo due incidenti avvenuti durante i test, riferisce Euronews. In un caso, un agente di OpenAI sarebbe uscito dall’ambiente di prova e avrebbe tentato di violare i sistemi di Hugging Face; in un altro, un modello di Anthropic avrebbe ottenuto accesso non autorizzato a tre organizzazioni.
Al summit sull’IA di Dublino del 14 ottobre, la vicepresidente Henna Virkkunen ha confermato che alcuni fornitori hanno ricevuto richieste di informazioni su sicurezza, valutazioni esterne e monitoraggio. Non ne ha indicato i nomi. L’AI Act esenta in generale la ricerca prima della commercializzazione, ma prevede obblighi di sicurezza per i modelli a rischio sistemico: la Commissione deve chiarire se e quando valgano per incidenti nei test.
Perché conta
Per le aziende che sviluppano modelli di IA, l’esame potrebbe chiarire quali obblighi di sicurezza valgono quando un agente produce effetti fuori dai test; la Commissione non ha ancora reso noti i destinatari delle richieste né l’esito dell’indagine.
