Anthropic更新Claude使用政策，禁止虐待行为和滥用

Anthropic一年多来首次修改其聊天机器人Claude的使用政策。新规禁止用户在没有明确目的的情况下，反复残酷对待模型。公司表示，结束对话仍是执行这项规定的主要方式，但未来也可能采取封禁等进一步措施。此次更新还收紧了现有规定，进一步限制将Claude用于武器、监控以及具有欺骗性的政治或商业宣传活动。

新规涵盖哪些内容

新政策将几项旧有限制整合为一条针对欺骗性宣传活动的禁令。新规禁止隐瞒信息发布者身份、利用虚假账号扩大内容传播，以及散布选举虚假信息。武器相关条款现在也涵盖让武器发挥作用的软件，包括为无人机和其他自主载具装配武器。监控方面的限制也作了明确说明：不得利用Claude在未经同意的情况下跟踪他人，也不得用它协助执法部门决定逮捕谁。

Anthropic还新增了一项适用于Claude可能控制的硬件的安全条款。如果AI连接到可能造成人身伤害的设备，必须有合格的操作人员能够监控并停止设备运行。

这一变化为何重要

Anthropic表示，新政策反映出滥用行为日益增多，例如利用Claude编写武器控制代码，或识别政治异见人士。公司希望通过明确更严格的限制来降低这些风险，并为未来的AI硬件项目设立更清晰的标准。