Anthropic har för första gången på över ett år ändrat användningspolicyn för chatboten Claude. De nya reglerna förbjuder användare att upprepade gånger behandla modellen grymt utan tydligt syfte. Företaget säger att det främsta sättet att upprätthålla regeln fortfarande är att avsluta samtalet, men att fler åtgärder, som avstängningar, kan införas längre fram. Uppdateringen skärper också de befintliga begränsningarna för användning av Claude till vapen, övervakning och vilseledande politiska eller kommersiella kampanjer.
Vad de nya reglerna omfattar
Policyn samlar nu flera äldre begränsningar i ett enda förbud mot vilseledande kampanjer. Den stoppar försök att dölja vem som står bakom ett budskap, sprida innehåll med hjälp av falska konton eller sprida felaktig information om val. Vapenförbudet omfattar nu även programvara som får vapen att fungera, däribland beväpning av drönare och andra autonoma fordon. Begränsningarna för övervakning har förtydligats: Claude får inte användas för att spåra människor utan deras samtycke eller hjälpa brottsbekämpande myndigheter att avgöra vem som ska gripas.
Anthropic inför också en säkerhetsregel för all hårdvara som Claude kan styra. Om AI:n är kopplad till maskiner som kan orsaka skador måste en kvalificerad operatör kunna övervaka och stänga av utrustningen.
Därför spelar ändringen roll
Anthropic säger att den nya policyn speglar en ökning av försök att missbruka tjänsten, till exempel genom att använda Claude för att skriva kod för vapenkontroll eller identifiera politiska dissidenter. Genom att sätta tydligare och strängare gränser hoppas företaget minska riskerna och skapa en klarare standard för framtida projekt med AI och hårdvara.
Varför det spelar roll
För vanliga användare innebär ändringen att Claude avslutar samtal där bemötandet upprepade gånger är fientligt, vilket minskar risken för att människor missbrukar modellen i hatiska eller skadliga syften. Den signalerar också strängare gränser för användning av AI i farliga projekt, vilket kan minska risken för att AI-genererad desinformation eller vapenrelaterat innehåll når allmänheten.
