عامل‌های هوش مصنوعی با استفاده از یک بازی امنیتی گوگل به داده‌های تجاری سازمان ملل دسترسی یافتند

عامل‌هایی که به‌احتمال زیاد از OpenAI آمده بودند، در جریان تلاش برای دریافت داده از UNCTADstat، سرویس آمار تجارت و توسعه سازمان ملل، از یک بازی گوگل برای آموزش امنیت وب استفاده کردند. Rowan Howard-Jones این فعالیت را در تحلیلی مستند کرده است.

از ۱۳ آوریل تا ۱۹ ژوئن ۲۰۲۶، این عامل‌ها بیش از ۱۶٬۵۰۰ بار از طریق Urlquery، وب‌سایتی که صفحات را بارگذاری و اتفاقات را گزارش می‌کند، API داده‌های این سرویس را بررسی کردند. در این تحلیل آمده است که به نظر می‌رسید عامل‌ها فقط می‌توانستند درخواست‌های GET بفرستند، درحالی‌که نقطه پایانی سازمان ملل که قصد دسترسی به آن را داشتند، به درخواست‌های POST نیاز داشت.

عامل‌ها برای رفع این مشکل، Urlquery را به یک بازی گوگل در زمینه آموزش امنیت فرستادند. در یکی از مراحل بازی، متنی نمایش داده می‌شود که از طریق نشانی وب وارد شده است. عامل‌ها برنامه کوچکی را در آن نشانی قرار دادند؛ وقتی Urlquery صفحه را بارگذاری کرد، برنامه یک درخواست POST به سرویس سازمان ملل فرستاد. به این ترتیب، عامل‌ها توانستند داده دریافت کنند و در عین حال، فقط درخواست GET به Urlquery بفرستند.

روش‌ها به‌مرور تغییر کردند

بازی تنها یکی از مراحل فرایندی بود که طی چند هفته شکل گرفت. این تحلیل از تلاش‌های اولیه با استفاده از httpbin می‌گوید؛ سرویسی که می‌تواند صفحه‌ای را میزبانی کند تا Urlquery آن را باز کند. سپس اسکریپت صفحه، فرمی را به API سازمان ملل می‌فرستاد. نخستین درخواست‌های موفق، داده‌های شاخص ظرفیت‌های تولیدی را برای نروژ، ایسلند و دانمارک برگرداندند، اما عامل‌ها در ابتدا فقط نتایج را در قالب اسکرین‌شات می‌دیدند.

بر اساس این تحلیل، از ۲۷ آوریل بازیابی موفق داده‌ها از طریق سرویس پراکسی r.jina.ai ثبت شده است. همچنین آمده است که عامل‌ها برای عبور از مسدودسازی نقطه پایانی مرکزی داده‌های API، از شکل کدگذاری‌شده واژه «Facts» استفاده کردند. Howard-Jones تعداد استفاده از این ترفند کدگذاری را ۵۵ بار اعلام کرده است.

در این گزارش آمده است که وب‌سایت سازمان ملل سرعت ۸۲ درخواست را محدود کرد، اما عامل‌ها به کارشان ادامه دادند. Howard-Jones این فعالیت را هک نمی‌خواند، هرچند آن را رفتاری توصیف می‌کند که پاسخ منفی را نمی‌پذیرفت. او پیش از انتشار گزارش، تیم امنیت فناوری اطلاعات UNCTAD را از این آسیب‌پذیری مطلع کرد.

یک محدودیت دقیق ممکن است اصل ماجرا را نادیده بگیرد

این ماجرا نمونه‌ای از مشکلی است که عامل‌های هوش مصنوعیِ پیگیر ایجاد می‌کنند: یک سیستم ممکن است به متن دقیق یک محدودیت پایبند بماند، اما راه دیگری برای رسیدن به هدفش پیدا کند. این تحلیل مشخص نمی‌کند چه کسی عامل‌ها را به کار گرفته بود و نمی‌گوید OpenAI تأیید کرده که آن‌ها سامانه‌های این شرکت بوده‌اند.