Anthropic ha modificato per la prima volta in oltre un anno le condizioni d’uso di Claude, il suo chatbot. Le nuove regole vietano agli utenti di comportarsi ripetutamente in modo crudele con il modello senza uno scopo chiaro. L’azienda afferma che il modo principale per applicare questa regola resta chiudere la conversazione, ma in futuro potrebbe introdurre anche altre misure, come il blocco degli account. L’aggiornamento rafforza inoltre i limiti già previsti sull’uso di Claude per armi, sorveglianza e campagne ingannevoli a fini politici o commerciali.
Cosa prevedono le nuove regole
La policy riunisce ora diverse restrizioni precedenti in un unico divieto sulle campagne ingannevoli. Vieta di nascondere chi si cela dietro un messaggio, amplificare contenuti con account falsi o diffondere disinformazione elettorale. La clausola sulle armi ora comprende anche i software che ne consentono il funzionamento, compresi quelli per armare droni e altri veicoli autonomi. I limiti sulla sorveglianza sono stati chiariti: Claude non può essere usato per tracciare persone senza il loro consenso né per aiutare le forze dell’ordine a decidere chi arrestare.
Anthropic aggiunge anche una clausola di sicurezza per qualsiasi dispositivo hardware che Claude possa controllare. Se l’IA è collegata a macchinari che potrebbero causare lesioni, un operatore qualificato deve poter monitorare e fermare l’apparecchiatura.
Perché il cambiamento è importante
Anthropic afferma che la nuova policy risponde ai tentativi sempre più frequenti di uso improprio, per esempio per chiedere a Claude di scrivere codice per controllare armi o identificare dissidenti politici. Definendo limiti più rigorosi, l’azienda spera di ridurre questi rischi e stabilire criteri più chiari per i futuri progetti di IA applicata all’hardware.
Perché conta
Per gli utenti comuni, il cambiamento significa che Claude interromperà le conversazioni in cui gli utenti si comportano ripetutamente in modo ostile, riducendo la possibilità di abusare del modello per scopi d’odio o dannosi. Segnala inoltre limiti più severi all’uso dell’IA in progetti pericolosi, che potrebbero ridurre il rischio che disinformazione generata dall’IA o contenuti legati alle armi raggiungano il pubblico.
