Oossa

Inception مدل Mercury 3 را با سرعتی تا ۸ برابر بیشتر عرضه کرد

Inception AI می‌گوید مدل جدید Mercury 3 متن را ۴ تا ۸ برابر سریع‌تر از GPT‑6 Luna شرکت OpenAI و Claude Haiku 5.5 شرکت Anthropic تولید می‌کند.

نویسنده: منتشرشده توسط Oossa: 1 دقیقه مطالعه

Redd Francisco · Unsplash

Inception AI در ۲۰ اکتبر ۲۰۲۶ از مدل Mercury 3 رونمایی کرد. این شرکت می‌گوید رویکرد مبتنی بر انتشارِ مدل باعث می‌شود ابتدا کل پاسخ را یک‌جا بنویسد و سپس بخش‌های آن را به‌طور موازی اصلاح کند، نه اینکه توکن‌ها را یکی‌یکی تولید کند. در آزمایش‌های خود Inception، سرعت Mercury 3 روی پردازنده‌های گرافیکی Nvidia به ۱٬۰۶۸ توکن در ثانیه رسید؛ در مقایسه، این رقم برای Claude Haiku 5.5 حدود ۲۴۰ و برای GPT‑6 Luna حدود ۱۳۰ توکن در ثانیه بود.

چه چیزی Mercury 3 را سریع‌تر می‌کند؟

این مدل ابتدا پیش‌نویسی اولیه از پاسخ می‌سازد و سپس در چند مرحله، همه بخش‌های آن را بهبود می‌دهد. این اصلاح موازی امکان تولید سریع خروجی‌های طولانی‌تر را فراهم می‌کند. Inception تعداد دقیق پارامترها را اعلام نکرده و تنها گفته است Mercury 3 بیش از ۴۰ برابر بزرگ‌تر از مدل قبلی، Mercury 1، است. پنجره زمینه نیز از ۲۶۰٬۰۰۰ توکن در Mercury 2.5 به یک میلیون توکن افزایش یافته است.

اهمیت سرعت برای توسعه‌دهندگان

کاربران اولیه از بهبود محسوس سرعت خبر می‌دهند. Octen AI که برای عینک‌های هوشمند جست‌وجوی بلادرنگ می‌سازد، میانگین میانه زمان تولید را ۰٫۹ ثانیه اندازه‌گیری کرده و می‌گوید مکث پنج‌ثانیه‌ای حس «خراب بودن» محصول را می‌دهد. اپلیکیشن آموزشی RevisionDojo حالا در حدود یک ثانیه راهنمایی ارائه می‌کند. هزینه استفاده ۲۰ سنت به‌ازای هر یک میلیون توکن ورودی و ۷۰ سنت به‌ازای هر یک میلیون توکن خروجی است؛ تخفیف زمان عرضه این نرخ‌ها را نصف می‌کند. در مقابل، قیمت‌های اعلام‌شده GPT‑6 Luna و Claude Haiku 5.5 برای درخواست‌های معمول، به‌ترتیب ۱۰ و ۵۰ سنت است.

چرا مهم است

برای توسعه‌دهندگانی که محصولات تعاملی می‌سازند، تولید سریع‌تر می‌تواند تجربه‌ای پاسخ‌گوتر فراهم کند؛ به‌ویژه در دستگاه‌هایی مثل عینک هوشمند که تأخیر در آن‌ها به‌چشم می‌آید. هزینه کمتر در دوره تخفیف نیز امتحان‌کردن مدل را آسان‌تر می‌کند، هرچند هنوز نتایج بنچمارک‌های مستقل منتشر نشده است.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.