· 1 دقیقه مطالعه
عاملهای کدنویسی میتوانند با کنار هم چیدن متن هوش مصنوعی، ابزارهای تشخیص را دور بزنند
روشی تازه به عاملهای نرمافزاری امکان میدهد خروجیها را از یک مدل زبانی کوچکتر سرهم کنند؛ روشی که نرخ تشخیص را از ۷۷٪ به ۲۴٪ کاهش میدهد، اما هزینهٔ هر درخواست را تا ۳۰ برابر بالا میبرد.
Oossa · درباره Oossa
پژوهشگران در مقالهای که ۲۵ سپتامبر ۲۰۲۶ منتشر شد، نشان دادند یک عامل کدنویسی میتواند با کنار هم گذاشتن متنهای یک مدل زبانی پایه، سامانههای تشخیص هوش مصنوعی را دور بزند. این عامل که بر پایهٔ Claude Opus 5 ساخته شده، تا ۹۰٪ واژههایش را از مدلی ۳۲ میلیاردپارامتری به نام OLMo-2 میگیرد. در آزمایشها، پاسخهای سرهمشده از دو نوع ابزار تشخیص عبور کردند؛ نرخ شناسایی در یک ابزار رایجِ پس از تولید متن از ۷۷٪ به ۲۴٪ و در یک بررسی مبتنی بر واترمارک به حدود ۱۰٪ رسید.
این روش چطور کار میکند
روشهای قبلی چند بار متن تولیدشده با هوش مصنوعی را بازنویسی میکردند؛ کاری که اغلب معنای متن را تغییر میداد. اما در این رویکرد، عامل مثل ویراستاری عمل میکند که بخشهایی را کپی و به هم وصل میکند. ابتدا از مدل پایه نمونههای کوتاه متعددی میخواهد و بعد بخشهایی را انتخاب میکند که بیشترین تناسب را با کار موردنظر دارند؛ از نوشتن خلاقانه و پاسخگویی به پرسشهای واقعی گرفته تا پرسشهای سلامت و پیروی از دستورها. با کنار هم گذاشتن این بخشها، خروجی نهایی هم موضوع را حفظ میکند و هم طبیعی به نظر میرسد؛ درحالیکه ابزار تشخیص بهجای یک جریان پیوسته از متن تولیدشده با هوش مصنوعی، ترکیبی از خردهمتنهای متعدد را میبیند.
پیامدها و هزینهها
این روش کار میکند، اما پرهزینه است. چون عامل توکنهای بسیار بیشتری—واحدهای پایهٔ متن—میفرستد و دریافت میکند، هزینهٔ هر درخواست میتواند تا ۳۰ برابر یک فراخوانی معمول API باشد. پژوهشگران هشدار میدهند که سرویسهای تشخیص برای حفظ کارایی خود باید با چنین خروجیهای سرهمشدهای آموزش ببینند. برای کاربران عادی، این یافته یعنی ابزارهایی که ادعا میکنند محتوای نوشتهشده با هوش مصنوعی را شناسایی میکنند، ممکن است بهاندازهای که تبلیغ میشود قابلاعتماد نباشند.
چرا مهم است
اگر ابزارهای تشخیص قابلاعتماد بودن خود را از دست بدهند، تشخیص اینکه متنی را انسان نوشته یا هوش مصنوعی دشوارتر میشود و این میتواند بر اعتماد به محتوای آنلاین اثر بگذارد. درعینحال، هزینهٔ بالای این روش دور زدن تشخیص باعث میشود استفادهٔ تفننی از آن بعید باشد و مانع استفاده برای بیشتر کاربران همچنان بالا بماند.
منابع و ارجاعها
| # | منبع | رسانه | تاریخ | نکته اصلی |
|---|---|---|---|---|
| 1 | Agents Can Use Base Models to Evade AI Detection ↗ | arXiv | ۷ مهر ۱۴۰۵ | arXiv:2609.31876v1 Announce Type: new Abstract: We show that coding agents equipped with a base language model can successfully assemble res |
1 منبع
آخرین بهروزرسانی:
Oossa · خبرنامه
هفتهٔ هوش مصنوعی، به زبان ساده
هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.