Библиотека llama.cpp с открытым исходным кодом (v b11556) теперь запускает модель Prism Bonsai 2 с 27 млрд параметров на macOS и Linux.
ЗаметкаАвтор: OossaОпубликовано Oossa: 1 мин чтения
ggml-org выпустила llama.cpp версии b11556. В обновлении добавлена поддержка запуска модели Prism Bonsai 2 27B. Также исправлена обработка тензоров Хадамара и упрощён код конвертации. Готовые бинарные файлы доступны для macOS (Apple Silicon и Intel) и Ubuntu (x64, arm64, s390x).
Разработчики теперь могут запускать крупную модель Prism Bonsai 2 с 27 млрд параметров локально на своих компьютерах.
Модели
Исследование Vals AI показало: мультиагентные системы могут расходовать до пяти раз больше токенов, чем одна модель, при лишь незначительном росте качества.
Модели
Модель Odyssey‑3 генерирует и запускает 3D-миры по текстовым запросам. Попробовать её можно бесплатно в онлайн-демо, а разработчики могут подать заявку на доступ к API.
Модели
Новая система проверки на базе Claude, состоящая из трёх ИИ-агентов, обнаружила 73,43% ошибок в ключевых утверждениях — намного больше предыдущего рекорда в 14,81%.
Oossa · Рассылка
Неделя ИИ — простыми словами
Каждый понедельник: главное за неделю понятным языком. Бесплатно, без спама.
