В библиотеке Llama.cpp с открытым исходным кодом теперь используются четыре столбца состояния GDN на CUDA warp, что повышает производительность GPU.
ЗаметкаАвтор: OossaОпубликовано Oossa: 1 мин чтения
Команда ggml-org выпустила llama.cpp версии b11494. В обновлении CUDA-бэкенд теперь назначает каждому warp четыре столбца состояния GDN вместо двух. Эта настройка стала значением по умолчанию. Скачать можно сборки для macOS (Apple Silicon и Intel), iOS и нескольких версий Ubuntu.
Разработчики, использующие llama.cpp на GPU NVIDIA, могут рассчитывать на более быстрый инференс без изменений в коде.
Модели
Новая система проверки на базе Claude, состоящая из трёх ИИ-агентов, обнаружила 73,43% ошибок в ключевых утверждениях — намного больше предыдущего рекорда в 14,81%.
Модели
Новая модель Mistral с триллионом параметров набрала 38 баллов в независимом рейтинге, но обходится дороже конкурирующих открытых моделей.
Модели
OpenAI сообщила о двух кампаниях влияния, участники которых с помощью ИИ публиковали ложные материалы в настоящих СМИ. Связанные с ними аккаунты заблокировали.
Oossa · Рассылка
Неделя ИИ — простыми словами
Каждый понедельник: главное за неделю понятным языком. Бесплатно, без спама.
