غيّرت Anthropic سياسة استخدام روبوت المحادثة Claude للمرة الأولى منذ أكثر من عام. وتحظر القواعد الجديدة تكرار التصرف بقسوة تجاه النموذج من دون غرض واضح. وتقول الشركة إن إنهاء المحادثة سيظل الإجراء الأساسي لتطبيق هذه القاعدة، لكنها قد تلجأ لاحقًا إلى تدابير إضافية، مثل الحظر. كما يشدد التحديث القيود القائمة على استخدام Claude في الأسلحة والمراقبة والحملات السياسية أو التجارية المضللة.
ما الذي تغطيه القواعد الجديدة؟
تجمع السياسة الآن عددًا من القيود السابقة تحت حظر واحد للحملات المضللة. وهي تمنع محاولات إخفاء الجهة التي تقف وراء رسالة، أو تضخيم المحتوى بحسابات وهمية، أو نشر معلومات مضللة عن الانتخابات. كما بات بند الأسلحة يشمل البرمجيات التي تتيح تشغيل الأسلحة، بما في ذلك تسليح الطائرات المسيّرة والمركبات ذاتية التشغيل الأخرى. وأوضحت الشركة قيود المراقبة: فلا يجوز استخدام Claude لتعقّب أشخاص من دون موافقتهم، أو لمساعدة جهات إنفاذ القانون في تحديد من ينبغي اعتقاله.
وتضيف Anthropic أيضًا بندًا للسلامة يشمل أي أجهزة مادية قد يتحكم فيها Claude. فإذا وُصِل الذكاء الاصطناعي بآلات قد تسبب إصابات، يجب أن يتمكن مشغّل مؤهل من مراقبة المعدات وإيقافها.
لماذا يهم هذا التغيير؟
تقول Anthropic إن السياسة الجديدة تعكس تزايد محاولات إساءة الاستخدام، مثل الاستعانة بـClaude لكتابة شيفرات للتحكم بالأسلحة أو تحديد هوية المعارضين السياسيين. وتأمل الشركة أن تحدّ هذه القيود الأكثر صرامة من المخاطر، وأن تضع معيارًا أوضح لمشروعات الذكاء الاصطناعي والأجهزة المادية مستقبلًا.
لماذا يهم
بالنسبة إلى المستخدمين العاديين، يعني هذا التغيير أن Claude سينهي المحادثات التي يتكرر فيها السلوك العدائي، ما يقلل احتمال إساءة استخدام النموذج لأغراض كراهية أو ضرر. كما يشير إلى تشديد القيود على استخدام الذكاء الاصطناعي في مشروعات خطرة، وقد يقلل ذلك من خطر وصول معلومات مضللة مولّدة بالذكاء الاصطناعي أو محتوى متعلق بالأسلحة إلى الجمهور.
