В библиотеке с открытым исходным кодом llama.cpp появились операции с типом данных BF16 и GLU, повышающие производительность на CPU и CUDA.
ЗаметкаOossaОпубликовано Oossa: 1 мин чтения
Команда ggml-org выпустила llama.cpp версии b11293. В ней добавлены унарные операции, GLU, бинарные операции и операции масштабирования с BF16 (форматом чисел половинной точности) для CPU и CUDA. Кроме того, обновлены ядра CUDA — это устраняет проблему со сборкой BF16. Обновление доступно для многих платформ, включая macOS, Windows, Linux и Android.
Разработчики смогут быстрее запускать модели llama.cpp на оборудовании с поддержкой BF16, например на новых GPU.
Обновлено: ·Markdown
Модели
Новая модель Google Gemini 4 Argon с контекстом до 1 million токенов и ценой $2 per M входных токенов уже доступна ограниченному кругу команд по кибербезопасности.
Модели
В чате Gemini появятся многоразовые Skills, а функция Gems для личных аккаунтов перестанет работать 17 ноября 2026 года.
Модели
Runway Research анонсировала Praxis‑1 — открытую модель управления роботами, обученную на видео. Её уже тестируют Noble Machines, Standard Bots и Ultra.
Oossa · Рассылка
Неделя ИИ — простыми словами
Каждый понедельник: главное за неделю понятным языком. Бесплатно, без спама.
