کتابخانه متن‌باز Llama.cpp اکنون در هر وارپ CUDA از چهار ستون حالت GDN استفاده می‌کند تا عملکرد GPU بهتر شود.
خبر کوتاهنویسنده: Oossaمنتشرشده توسط Oossa: 1 دقیقه مطالعه
تیم ggml‑org نسخه b11494 از llama.cpp را منتشر کرد. در این به‌روزرسانی، بک‌اند CUDA به‌جای دو ستون، چهار ستون حالت GDN را به هر وارپ اختصاص می‌دهد. این تنظیم اکنون به‌صورت پیش‌فرض فعال است. فایل‌های اجرایی برای macOS (Apple Silicon و Intel)، iOS و چند نسخه از Ubuntu برای دانلود در دسترس‌اند.
توسعه‌دهندگانی که llama.cpp را روی GPUهای NVIDIA اجرا می‌کنند، می‌توانند بدون تغییر کد خود انتظار استنتاج سریع‌تری داشته باشند.
مدلها
سامانه جدید این شرکت، متشکل از سه عامل مبتنی بر Claude، ۷۳٫۴۳٪ خطاهای ادعاهای اصلی را پیدا کرد؛ بسیار بیشتر از رکورد قبلیِ ۱۴٫۸۱٪.
مدلها
مدل جدید یکتریلیونپارامتری Mistral در یک شاخص مستقل امتیاز ۳۸ گرفت، اما هزینه هر وظیفه با آن از مدلهای متن‌باز رقیب بیشتر است.
مدلها
OpenAI از دو کارزار نفوذ خبر داد که با استفاده از محتوای تولیدشده با هوش مصنوعی، روایتهای جعلی را وارد رسانههای واقعی میکردند؛ حسابهای مرتبط نیز مسدود شدند.
Oossa · خبرنامه
هفتهٔ هوش مصنوعی، به زبان ساده
هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.
