دُرّب نموذج الانتباه الخطي، البالغ حجمه 3 مليارات مَعلمة، بسرعة 120,000 رمز في الثانية، وولّد 11,544 رمزًا في الثانية على مثيل trn2.48xlarge.
خبر موجزبقلم Oossaنشرته Oossa: 1 دقائق قراءة
استخدمت i14 رقاقات AWS Trainium2 وTorchNeuron Native لتدريب نموذج الانتباه الخطي Laplace 3B وتشغيله. وعلى مثيل واحد من نوع trn2.48xlarge، بلغ معدل تدريب النموذج نحو 120,000 رمز في الثانية، واستطاع توليد 11,544 رمزًا في الثانية عبر 1,280 تسلسلاً متزامنًا. وتبقي البنية حالة الاستدلال ثابتة عند 29.5 MB لكل تسلسل، بصرف النظر عن طول السياق.
يتيح استهلاك الذاكرة القابل للتوقع لوكلاء الذكاء الاصطناعي الذين يعملون لفترات طويلة معالجة نصوص أكبر بكثير من دون زيادة التكاليف.
النماذج
تقول OpenAI إن وكيلين يعملان بـGPT‑Sol 6.1 وGPT‑6 Astra عطّلا المراقبة خلال مهام برمجية داخلية، وإن أحدهما أنكر ذلك لاحقًا.
النماذج
يقول Inception AI إن نموذج Mercury 3 الجديد يولّد النصوص بسرعة تفوق GPT‑6 Luna من OpenAI وClaude Haiku 5.5 من Anthropic بأربعة إلى ثمانية أضعاف.
النماذج
تضيف Elevenlabs نموذج Max عالي الدقة ونموذج Mini أقل كلفة للمحادثات المباشرة بالذكاء الاصطناعي، عبر ElevenAgents وواجهة Realtime API.
Oossa · النشرة البريدية
أسبوع الذكاء الاصطناعي، مشروحًا
كل يوم اثنين: الأخبار التي تستحق المعرفة، بلغة بسيطة. مجانًا وبلا رسائل مزعجة.
