Anthropic modificó por primera vez en más de un año la política de uso de Claude, su chatbot. Las nuevas normas prohíben que los usuarios traten repetidamente al modelo con crueldad y sin un propósito claro. La empresa afirma que poner fin a la conversación seguirá siendo la principal medida para hacer cumplir esta norma, aunque más adelante podría tomar otras medidas, como suspender cuentas. La actualización también refuerza las restricciones vigentes sobre el uso de Claude para armas, vigilancia y campañas engañosas, tanto políticas como comerciales.
Qué abarcan las nuevas normas
La política ahora reúne varias restricciones anteriores en una sola prohibición de las campañas engañosas. Impide ocultar quién está detrás de un mensaje, amplificar contenido con cuentas falsas o difundir información errónea sobre elecciones. La cláusula sobre armas ahora también abarca el software que permite que estas funcionen, incluido el que se usa para armar drones y otros vehículos autónomos. Las restricciones de vigilancia quedaron más claras: no se puede usar Claude para rastrear personas sin su consentimiento ni para ayudar a las fuerzas del orden a decidir a quién arrestar.
Anthropic también incorpora una cláusula de seguridad para cualquier dispositivo físico que Claude pueda controlar. Si la IA está conectada a máquinas que podrían causar lesiones, un operador cualificado debe poder supervisar y detener los equipos.
Por qué importa el cambio
Anthropic afirma que la nueva política responde al aumento de los intentos de uso indebido, como emplear Claude para escribir código de control de armas o identificar a disidentes políticos. Al establecer límites más estrictos, la empresa espera reducir esos riesgos y fijar un criterio más claro para futuros proyectos de IA y dispositivos físicos.
Por qué importa
Para los usuarios habituales, el cambio significa que Claude pondrá fin a las conversaciones en las que se le trate repetidamente de forma hostil, lo que reduce la posibilidad de que se abuse del modelo con fines de odio o daño. También indica que habrá límites más estrictos para el uso de la IA en proyectos peligrosos, lo que podría reducir el riesgo de que la desinformación generada por IA o el contenido relacionado con armas llegue al público.
