قالت Anthropic، الشركة المطوّرة لروبوت المحادثة Claude، إن فريق المراجعة البشري لديها أبلغ سلطات إنفاذ القانون عن محادثة تضمنت تهديدًا. وأفضى البلاغ إلى توجيه تهمة جنائية إلى امرأة في مقاطعة لي بولاية فلوريدا، بموجب المادة 836.10 من قانون الولاية، التي تتناول التهديدات المكتوبة أو الإلكترونية بارتكاب إطلاق نار جماعي أو أعمال إرهابية.
كيف رُصد التهديد
تراقب Anthropic المحادثات بحثًا عن عبارات قد تشير إلى خطر. وعندما قالت مستخدمة تُدعى «Carli» في 26 سبتمبر إنها ستطلق النار على مكتب شرطة مقاطعة لي، رصد النظام الرسالة. وفي ملاحظة لاحقة بتاريخ 27 سبتمبر، أشارت إلى سلاح جديد. ونظرًا إلى خطورة العبارات، أحال فريق المراجعة القضية إلى محلل بشري، فأبلغ المحلل مكتب الشريف. وأوقفت الشرطة المرأة في منزلها من دون أي حادث، وتولى محقق في قسم الاستخبارات التحقيق.
ما الذي يعنيه هذا لمستخدمي الذكاء الاصطناعي
تُظهر سياسة Anthropic أن مزوّدي خدمات الذكاء الاصطناعي قادرون على التدخل، ويفعلون ذلك، عندما تبدو المحادثة تهديدًا حقيقيًا. وتهدف آلية المراجعة لدى الشركة إلى حماية السلامة العامة، لكنها تعني أيضًا أن محادثات المستخدمين قد تخضع للفحص وتُشارك مع السلطات إذا تضمنت نية عنيفة.
لماذا يهم
تُظهر القصة للمستخدمين العاديين أن محادثاتهم مع الذكاء الاصطناعي ليست خاصة بالكامل؛ فقد يرصد مقدّمو الخدمات العبارات العنيفة ويبلّغون عنها. كما توضح أن التهديدات الموجّهة إلى روبوت محادثة قد تترتب عليها عواقب قانونية في العالم الحقيقي. لكن المعايير الدقيقة التي تعتمدها Anthropic لتحديد الحالات التي تستدعي إبلاغ الشرطة ما زالت غير واضحة.
