کتابخانه متن‌باز استنتاج Llama نسخه b11757 را منتشر کرد؛ این نسخه رسیدگی به CUDA graph را اصلاح می‌کند و باینری‌های تازه‌ای برای macOS، iOS و Linux دارد.
خبر کوتاهنویسنده: Oossaمنتشرشده توسط Oossa: 1 دقیقه مطالعه
تیم ggml‑org نسخه b11757 از llama.cpp را منتشر کرد. این به‌روزرسانی پس از تخلیهٔ استخر حافظهٔ قدیمی، CUDA graphها را پاک‌سازی می‌کند؛ تغییری که باید نشت حافظهٔ GPU را کاهش دهد. باینری‌های ازپیش‌ساخته اکنون برای macOS روی Apple Silicon، macOS روی Intel، iOS و چند نسخهٔ Ubuntu (با CPU، Vulkan و CUDA 12.8) در دسترس‌اند. این نسخه در GitHub منتشر شده است.
این اصلاح برای توسعه‌دهندگانی که مدل‌های Llama را روی GPUهای Nvidia اجرا می‌کنند، خطاهای کمبود حافظه را کاهش می‌دهد.
مدلها
Elevenlabs مدل دقیقتر Max و مدل ارزانتر Mini را برای مکالمههای زنده با هوش مصنوعی عرضه کرده است؛ هر دو از طریق ElevenAgents و یک Realtime API در دسترس‌اند.
مدلها
این دستیار هوش مصنوعی با ثبت ۱۰.۲ میلیون نصب در آمریکا، از آمار اولیه ChatGPT پیشی گرفته و ماندگاری کاربران بیشتری در کوتاهمدت نشان داده است.
مدلها
Amazon Bedrock اکنون به توسعهدهندگان کانادایی امکان می‌دهد از طریق استنتاج بینمنطقهای، مدل‌های جدید OpenAI یعنی GPT‑5.6، GPT‑6 و GPT‑6.1 را فراخوانی کنند.
Oossa · خبرنامه
هفتهٔ هوش مصنوعی، به زبان ساده
هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.
