گروهی از زبانشناسان و مهندسان مجموعهای از مدلهای زبانی با وزنِ باز منتشر کردهاند که زبان وولوف را میفهمند و به آن متن تولید میکنند؛ زبانی که حدود 23 میلیون نفر در سنگال به آن صحبت میکنند. اندازه این مدلها از 0.6 میلیارد تا 14 میلیارد پارامتر متغیر است و با مجوزی باز عرضه شدهاند تا هرکسی بتواند آنها را دانلود کند و بهصورت محلی اجرا کند. مقاله میگوید نسخههای 8 میلیارد و 14 میلیارد پارامتری در وظایف مربوط به وولوف همسطح سامانههای تجاری بسیار بزرگتر عمل میکنند و در عین حال از پسِ زبانهای دیگر نیز برمیآیند.
گزارش مقاله
نویسندگان فرایندی را شرح میدهند که در آن ابتدا مدلهای پایه را با متنهای وولوف تنظیم دقیق میکنند، سپس آموزش دستوری را به کار میگیرند (یعنی به مدل یاد میدهند چگونه از دستورها پیروی کند) و در ادامه، همترازی ترجیحی را انجام میدهند (بهینهسازی خروجیها برای تطبیق با قضاوت انسانها). آنها همچنین برای بهبود عملکرد، مدلها را با هم ادغام میکنند. آزمایشها 63 وظیفه عمومی و داخلی را در بر میگیرد؛ از جمله ترجمه، پاسخگویی به پرسشها و تولید متن. نتایج نشان میدهد مدلهای 8B و 14B بهویژه رقابتی هستند.
دسترسی
آزمایش این مدلها در طرحهای آزمایشی داخلیِ خدمات مشتری آغاز شده و کد و وزنهای آنها در نشانی عمومیای میزبانی میشود که در مقاله آمده است. هزینهای برای دانلود ذکر نشده و از آنجا که وزنهای مدلها باز هستند، کاربران میتوانند آنها را روی سختافزار خود اجرا کنند و هزینه دسترسی به API نپردازند.
چرا مهم است
برای گویشوران وولوف و کسبوکارهای سنگال، این مدلها جایگزینی رایگان و قابلمیزبانی روی سختافزار محلی برای سرویسهای API پرهزینه فراهم میکنند. این امر میتواند هزینهها را کاهش دهد و هنگام ساخت چتبات یا ابزار ترجمه، نگرانیهای مربوط به حریم خصوصی دادهها را برطرف کند. با این حال، هنوز اعتبارسنجی مستقل ادعاها، فراتر از آزمایشهای نویسندگان، انجام نشده است.