پژوهشگران می‌گویند GPT-6 Astra می‌تواند وزن‌های عددیِ درون شبکه‌های عصبی را بررسی و تغییر دهد، بی‌آنکه از فرایند معمول آموزش استفاده کند. در آزمایش‌ها، این مدل تشخیص داد چند شبکه کوچک چه چیزهایی آموخته‌اند، برای شبکه‌های بازی‌ساز وزن نوشت و بخش کوچکی از یک مدل زبانی را تغییر داد تا امتیاز ریاضی آن بهتر شود.
پژوهشگران این رویکرد را «برنامه‌نویسی در فضای وزن‌ها» می‌نامند. Astra به‌جای بازآموزی مدل با الگوریتم بهینه‌سازی، وزن‌ها و هدفی مشخص دریافت می‌کرد و گاهی هم به ابزارهای برنامه‌نویسی و بازخورد حاصل از اجرای آزمون‌ها دسترسی داشت. به گفته پژوهشگران، Astra اجازه نداشت حلقه‌های آموزشی بنویسد. این نتایج آزمایش‌های اولیه‌اند و نشان نمی‌دهند که این رویکرد در مدل‌های هوش مصنوعی به‌طور قابل‌اتکا جواب می‌دهد.
Astra چه چیزهایی را تغییر داد؟
در یکی از آزمون‌ها، وزن‌های Qwen3.5-0.8B، یک مدل زبانی کوچک، در اختیار Astra قرار گرفت و از آن خواسته شد توانایی ریاضی مدل را بهبود دهد. Astra با استفاده از محیط برنامه‌نویسی و 50 دور مسئله آزمایشی، «حلقه‌های فکری» تکرارشونده‌ای را شناسایی کرد که مستندات Qwen از قبل درباره آن‌ها هشدار می‌داد. Astra، 0.016% از وزن‌های مدل را ویرایش کرد. در مسئله‌های ریاضی جداگانه، امتیاز مدل در MATH-500 از 7.9% به 48.1% رسید. امتیاز پیروی از دستورها نیز از 21% به 62% افزایش یافت.
این اصلاح کامل نبود: حدود یک‌سوم پاسخ‌ها همچنان به حداکثر طول متن می‌رسیدند، هرچند این میزان پیش از تغییر 93% بود. Astra در Gemma 3 270M، مدل کوچک دیگری که به‌ندرت گرفتار چنین حلقه‌هایی می‌شود، بهبودی قابل‌اندازه‌گیری ایجاد نکرد. پژوهشگران می‌گویند شاید Astra مانعی را از سر راه مهارت‌هایی برداشته باشد که Qwen از قبل داشت، نه اینکه توانایی تازه‌ای به مدل اضافه کرده باشد.
Astra همچنین برای شبکه‌هایی که سه بازی ساده رایانه‌ای انجام می‌دادند وزن نوشت. پژوهشگران می‌گویند شبکه آن در Breakout به‌طور میانگین امتیاز 517 گرفت، در حالی که امتیاز یک مدل پایه آموزش‌دیده 25 بود؛ اما در دو بازی دیگر از نسخه‌هایی که مدت بیشتری آموزش دیده بودند عقب ماند. در بازی Go روی صفحه 9-by-9، Astra طی 50 دور، شبکه‌ای با حدود 1.5-million-parameter را تنظیم کرد و در هر دور حداکثر 128 بازی تمرینی انجام داد؛ این شبکه مدلی هم‌اندازه را که با حدود 20 million بازی آموزش دیده بود شکست داد.
رویکردی امیدوارکننده، اما در مراحل اولیه
پژوهشگران همچنین گزارش می‌کنند که Astra توانست از روی وزن‌های خام شبکه‌های کوچک، نوع بازی، زبان یا شکل تصویر موردنظر را تشخیص دهد. در یکی از آزمون‌ها، Astra فقط زمانی توانست مدلی را که برای موافقت با کاربران آموزش دیده بود تشخیص دهد که علاوه بر وزن‌ها، اطلاعاتی درباره بخش‌هایی از متن که مدل‌ها هنگام پردازش به آن توجه می‌کردند نیز در اختیارش قرار گرفت.
به گزارش The Decoder، پژوهشگر هوش مصنوعی Jürgen Schmidhuber این رویکرد را «کهنه» خواند و به پژوهش‌های دهه 1990 اشاره کرد. پژوهشگر Omar Khattab در پاسخ گفت کارهای قبلی جلوتر از زمان خود بوده‌اند و افزود تحول تازه این است که مدل‌های زبانی امروزی می‌توانند میان زبان معمولی و وزن‌های شبکه ترجمه کنند. پژوهشگران ممیزی امنیتی و تغییر هدفمند رفتار را از کاربردهای احتمالی این روش می‌دانند، اما می‌گویند هنوز به معیاری برای ارزیابی نظام‌مند آن نیاز دارند.
چرا مهم است
برای تیم‌هایی که مدل‌های زبانی کوچک را نگهداری می‌کنند، این نتایج حاکی از راهی احتمالی برای رفع یک مشکل مشخص، بدون تکرار یک دور کامل و پرهزینه آموزش است. اما اصلاح انجام‌شده پاسخ‌های گرفتار حلقه را همچنان پرتکرار باقی گذاشت و Astra نتوانست مدل دیگری را بهبود دهد؛ بنابراین هنوز روشن نیست این روش در عمل چه زمانی جواب می‌دهد.
