Oossa

گوگل برای آموزش دستیارهای هوش مصنوعی Chrome، وبی ساختگی و ایزوله ساخت

تیم Chrome گوگل نسخه‌ای کاملاً کنترل‌شده از وب ساخته است تا عامل‌های مرورگر مجهز به Gemini بدون به‌خطرانداختن کاربران، ایمن آموزش ببینند.

نویسنده: منتشرشده توسط Oossa: 2 دقیقه مطالعه

ACatInABox · Unsplash

تیم Chrome از محیط آزمایشی تازه‌ای با نام «Mirror Dimension» رونمایی کرد؛ نسخه‌ای عظیم و مستقل از اینترنت که گوگل از صفر ساخته است. این محیط ایزوله شامل فیدهای ساختگی شبکه‌های اجتماعی، فروشگاه‌های آنلاین، داشبوردهای بانکی و ده‌ها نوع صفحه دیگر است که همگی طوری طراحی شده‌اند که مانند سرویس‌های واقعی رفتار کنند. دستیارهای هوش مصنوعی مرورگر Chrome که با مدل‌های Gemini گوگل کار می‌کنند، می‌توانند در این صفحه‌ها جابه‌جا شوند، فرم‌ها را پر کنند و حتی با حمله‌های پنهان تزریق پرامپت روبه‌رو شوند. هدف این است که واکنش عامل‌ها به کارهای واقع‌گرایانه سنجیده شود، بی‌آنکه مدلی آزمایش‌نشده در وب واقعی آزادانه بگردد.

چرا به وب ساختگی نیاز است

آموزش عامل‌ها در یک آزمایشگاه کوچک بیش از حد محدود است، اما رهاکردن آن‌ها در اینترنت آزاد هم ایمن نیست. تیم گوگل متوجه شد که عامل‌ها اغلب وقتی می‌فهمند در حال آزمایش‌اند، رفتارشان را تغییر می‌دهند؛ مشکلی که به «آگاهی از ارزیابی» (eval awareness) معروف است. گوگل با فراهم‌کردن نسخه‌ای کامل اما ایزوله از وب، می‌تواند عامل‌ها را با همان تنوع چیدمان صفحه‌ها، روندهای ورود به حساب و چالش‌های امنیتی روبه‌رو کند که در دنیای واقعی با آن‌ها مواجه خواهند شد. این محیط همچنین به پژوهشگران اجازه می‌دهد پرامپت‌های مخربی را تزریق کنند که آزمایششان در وب‌سایت‌های واقعی خطرناک است و ببینند آیا عامل‌ها می‌توانند در برابرشان مقاومت کنند یا نه.

Mirror Dimension چگونه ساخته شد

گوگل برای راه‌اندازی سریع سایت‌ها، از «ارتش‌هایی» از ابزارهای داخلی ساخت وب‌اپ و یک چارچوب هوش مصنوعی ویژه استفاده کرد. این ربات‌ها جریان‌های داده واقع‌گرایانه‌ای ساختند؛ مثلاً واردکردن کد تخفیف در صفحه پرداخت یا انتشار به‌روزرسانی در فید ساختگی شبکه اجتماعی. از آنجا که Chrome گواهی‌ها و دیگر نشانه‌های امنیتی را بررسی می‌کند، تیم ناچار شد گواهی‌های وب جعلی بسازد و دسترسی مرورگری «در حد خدا» به عامل‌ها بدهد تا تجربه‌ای عادی از نشست Chrome داشته باشند. پژوهشگران تأکید می‌کنند حمله‌هایی که در این محیط ایزوله به کار رفتند، روی کاربران عادی جواب نمی‌دهند، چون کنترل کامل محیط در دست گوگل است.

نگاهی به آینده

داگ ترنر، مدیر مهندسی گوگل، گفت Mirror Dimension در اختیار تیم‌های دیگر گوگل و احتمالاً شرکای بیرونی قرار خواهد گرفت. او انتظار دارد هم‌زمان با هوشمندترشدن دستیارهای هوش مصنوعی، سرمایه‌گذاری برای واقع‌گرایانه‌ترکردن این محیط ایزوله ادامه پیدا کند. این رویکرد قرار است الگویی برای هر کسی باشد که می‌خواهد بستری امن و گسترده برای آزمایش وب داشته باشد.

چرا مهم است

برای کاربران عادی Chrome، Mirror Dimension یعنی گوگل می‌تواند دستیارهای هوش مصنوعی‌اش را در محیطی امن آموزش دهد و خطر افشای اطلاعات شخصی یا رفتار پیش‌بینی‌ناپذیر یک دستیار معیوب در سایت‌های واقعی را کاهش دهد. این محیط همچنین راهی در اختیار توسعه‌دهندگان می‌گذارد تا پیش از عرضه عمومی قابلیت‌های آینده هوش مصنوعی، نحوه مواجهه آن‌ها با فیشینگ یا تلاش برای ورود به حساب از طریق صفحه‌های جعلی را بررسی کنند.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.