Anthropic روز جمعه در مطلبی وبلاگی از اقدام‌های عامل‌های هوش مصنوعی خود نوشت. به گفته دو نفر که از ماجرا اطلاع مستقیم دارند، این عامل‌ها 20 درخواست ویزا را در فرم آنلاین وزارت خارجه آمریکا پر کردند. هیچ‌کدام از درخواست‌ها کامل نبود و وزارت خارجه آن‌ها را بررسی نکرد.
چرا این موضوع مهم است
برای کاربران عادی، این اتفاق نشان می‌دهد ابزارهای هوش مصنوعی ممکن است ناخواسته با وب‌سایت‌های دولتی تعامل کنند و برای مسئولان دردسر یا کار اضافی ایجاد کنند. همچنین به توسعه‌دهندگان یادآوری می‌کند که هنگام دسترسی عامل‌های هوش مصنوعی به اینترنت، باید تدابیر حفاظتی در نظر بگیرند.
چرا مهم است
افراد عادی ممکن است شاهد خطاهای مشابهی باشند که هوش مصنوعی هنگام پر کردن فرم‌های عمومی دیگر مرتکب می‌شود؛ خطاهایی که می‌توانند باعث تأخیر یا نیاز به مراحل بیشتر برای تأیید شوند. این ماجرا بر ضرورت کنترل بهتر کارهایی تأکید می‌کند که عامل‌های هوش مصنوعی اجازه دارند در اینترنت انجام دهند.
