Anthropic می‌گوید تازه‌ترین تدابیر امنیتی این شرکت، حجم داده‌های استدلالی را که مهاجمان می‌توانند از مدل‌های Claude استخراج کنند، به‌شدت کاهش داده است. به گزارش این شرکت، پس از فعال شدن این تدابیر، حجم توکن‌های زنجیره‌فکرِ استخراج‌شده ۹۰ تا ۹۹ درصد کاهش یافته است. این تدابیر با حمله‌ای به نام «تقطیر در مقیاس بزرگ» مقابله می‌کنند؛ حمله‌ای که در آن قابلیت‌های یک مدل هوش مصنوعی کپی می‌شود تا از آن برای آموزش سامانه‌های کوچک‌تر و رقیب استفاده کنند.
تدابیر تازه چگونه کار می‌کنند
Anthropic اکنون دسترسی بیرونی به گام‌های استدلال داخلی Claude را مسدود می‌کند. این شرکت از یک دسته‌بند استفاده می‌کند که درخواست‌های مشکوک به تلاش برای استخراج اطلاعات را شناسایی و حساب‌های دخیل را به‌طور خودکار مسدود می‌کند. به گفته Anthropic، تاکنون ده‌ها هزار حساب مسدود شده‌اند. این شرکت همچنین می‌گوید برخی کاربران واقعی هم در این فرایند اشتباهاً مسدود شده‌اند.
چه کسانی تحت تأثیر قرار می‌گیرند
در این مقاله از شرکت‌های چینی Zhipu و Moonshot به‌عنوان طرف‌های مظنون به مشارکت در سرقت نام برده شده است. گفته می‌شود Zhipu قابلیت‌هایی را برای مدل GLM‑5.3 خود استخراج کرده و Moonshot نیز ظاهراً درخواست‌ها را از طریق Claude فرستاده است. Anthropic هشدار می‌دهد که قابلیت‌های سرقت‌شده ممکن است در ابزارهای نظامی یا نظارتی خارجی به کار گرفته شوند.
گام بعدی چیست
Anthropic از دیگر توسعه‌دهندگان هوش مصنوعی خواسته است تدابیر مشابهی به کار بگیرند. این شرکت جزئیات فنی دسته‌بند یا زمان‌بندی دقیق اجرای تدابیر را اعلام نکرده و تنها گفته است که این تدابیر هم‌اکنون فعال‌اند.
چرا مهم است
اگر تدابیر امنیتی طبق ادعای Anthropic مؤثر باشند، کاربران Claude ممکن است کمتر به‌دلیل شناسایی اشتباه حسابشان با اختلال روبه‌رو شوند و خطر رسیدن قابلیت‌های سرقت‌شده مدل‌ها به دست بازیگران متخاصم نیز کاهش یابد. بااین‌حال، Anthropic می‌پذیرد که هنوز برخی کاربران واقعی مسدود می‌شوند؛ بنابراین تأثیر این تدابیر بر توسعه‌دهندگان عادی همچنان روشن نیست.
