خبر کوتاه · 1 دقیقه مطالعه
تنظیم با پرامپت نرم کمک میکند بنچمارکها دانش را بسنجند، نه قالب پاسخ را
Aleph Alpha نشان میدهد که با آموزش فقط ده بردار کوچک بهمدت یک دقیقه، میتوان مدلهای پایه را واداشت پاسخها را در قالب درست ارائه کنند و امتیازهای دقیقتری به دست آورد.
Oossa · درباره Oossa
Aleph Alpha روشی ارائه کرده است که فقط چند بردارِ قابلآموزش را ــ موسوم به پرامپتهای نرم ــ تغییر میدهد تا به یک مدل زبانیِ ثابت، قالب دقیق پاسخی را یاد بدهد که یک بنچمارک انتظار دارد. این تنظیم حدود ۸۰ گام طول میکشد؛ برای مدلی با ۷ میلیارد پارامتر، تقریباً ۱.۵ دقیقه. این روش دقت پیروی از قالب را به نزدیک ۱۰۰ درصد میرساند، بیآنکه دانش مدل را تغییر دهد.
از آنجا که امتیاز دانش مدل ثابت میماند و فقط قالببندی بهتر میشود، پژوهشگران میتوانند مدلهای پایه را منصفانه مقایسه کنند و پیشبینی کنند پس از پسآموزش کامل چه رتبهای خواهند داشت؛ در نتیجه، هفتهها زمان محاسباتی صرفهجویی میشود.
چرا مهم است
این روش به توسعهدهندگان امکان میدهد بدون آموزش کامل و پرهزینه، مدلها را سریع ارزیابی و رتبهبندی کنند و بر آنچه مدل واقعاً میداند تمرکز داشته باشند.
منابع و ارجاعها
| # | منبع | رسانه | تاریخ | نکته اصلی |
|---|---|---|---|---|
| 1 | Soft-Prompt Tuning for Fair and Efficient LLM Benchmark Evaluation ↗ | Aleph Alpha | ۷ مهر ۱۴۰۵ |
1 منبع
آخرین بهروزرسانی:
Oossa · خبرنامه
هفتهٔ هوش مصنوعی، به زبان ساده
هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.