Вышла новая версия библиотеки llama.cpp для запуска Llama. В ней исправили работу с F16C на процессорах AVX2 и подготовили новые сборки для macOS, iOS и Linux.
ЗаметкаАвтор: OossaОпубликовано Oossa: 1 мин чтения
ggml-org выпустила llama.cpp версии b11555. В обновлении исправили ошибку, из-за которой процессоры AVX2 не использовали набор инструкций F16C, даже если он был доступен. Также появились новые бинарные пакеты для macOS на Apple Silicon, macOS на Intel, iOS и нескольких конфигураций Ubuntu, в том числе с поддержкой Vulkan и CUDA 12.8.
Разработчики, запускающие модели Llama на совместимых процессорах, получат более быстрый инференс без ручного внесения исправлений.
Модели
Исследование Vals AI показало: мультиагентные системы могут расходовать до пяти раз больше токенов, чем одна модель, при лишь незначительном росте качества.
Модели
Модель Odyssey‑3 генерирует и запускает 3D-миры по текстовым запросам. Попробовать её можно бесплатно в онлайн-демо, а разработчики могут подать заявку на доступ к API.
Модели
Новая система проверки на базе Claude, состоящая из трёх ИИ-агентов, обнаружила 73,43% ошибок в ключевых утверждениях — намного больше предыдущего рекорда в 14,81%.
Oossa · Рассылка
Неделя ИИ — простыми словами
Каждый понедельник: главное за неделю понятным языком. Бесплатно, без спама.
