Anthropic heeft voor het eerst in ruim een jaar het gebruiksbeleid voor Claude, zijn chatbot, aangepast. De nieuwe regels verbieden gebruikers om herhaaldelijk zonder duidelijk doel wreed tegen het model te doen. Het bedrijf zegt dat het beëindigen van een gesprek voorlopig de belangrijkste manier blijft om deze regel te handhaven, maar sluit niet uit later aanvullende maatregelen te nemen, zoals gebruikers te verbannen. Ook scherpt de update bestaande beperkingen aan op het gebruik van Claude voor wapens, surveillance en misleidende politieke of commerciële campagnes.
Wat de nieuwe regels inhouden
Het beleid bundelt nu verschillende oudere beperkingen in één verbod op misleidende campagnes. Het verbiedt pogingen om te verhullen wie achter een boodschap zit, content met nepaccounts te verspreiden of verkiezingsmisinformatie te verspreiden. De bepaling over wapens geldt nu ook voor software waarmee wapens werken, waaronder het bewapenen van drones en andere autonome voertuigen. De beperkingen op surveillance zijn verduidelijkt: Claude mag niet worden gebruikt om mensen zonder hun toestemming te volgen of om opsporingsdiensten te helpen bepalen wie ze moeten arresteren.
Anthropic voegt ook een veiligheidsbepaling toe voor alle hardware die Claude mogelijk aanstuurt. Als de AI is gekoppeld aan machines die letsel kunnen veroorzaken, moet een gekwalificeerde operator de apparatuur kunnen observeren en stilzetten.
Waarom de verandering belangrijk is
Anthropic zegt dat het nieuwe beleid een reactie is op toenemende pogingen tot misbruik, zoals Claude gebruiken om code voor wapenbesturing te schrijven of politieke dissidenten op te sporen. Door strengere grenzen vast te leggen, hoopt het bedrijf die risico's te verkleinen en een duidelijkere norm te stellen voor toekomstige projecten met AI en hardware.
Waarom het ertoe doet
Voor gewone gebruikers betekent de verandering dat Claude gesprekken beëindigt wanneer iemand herhaaldelijk vijandig is. Zo wordt het moeilijker om het model te misbruiken voor haatdragende of schadelijke doeleinden. Ook geeft de update aan dat er strengere grenzen komen voor het gebruik van AI bij gevaarlijke projecten. Daardoor kunnen AI-gegenereerde misinformatie en wapengerelateerde content mogelijk minder snel het publiek bereiken.
