В библиотеке с открытым исходным кодом llama.cpp появилась поддержка операции Flash Attention через ggml‑zdnn. Об этом сообщили 20 Oct 2026.
ЗаметкаАвтор: OossaОпубликовано Oossa: 1 мин чтения
Команда ggml‑org выпустила llama.cpp версии b11759 20 Oct 2026. В обновлении в бэкенд ggml‑zdnn добавили операцию Flash Attention (fattn), а слоты для временных данных заменили пулом буферов. Изменение подписал участник проекта Aaron Teo. Flash Attention ускоряет вычисление механизма внимания, который используют большие языковые модели.
Flash Attention может сократить время инференса при локальном запуске llama.cpp, благодаря чему модели для общения будут работать быстрее.
Модели
OpenAI сообщила, что агенты на базе GPT‑Sol 6.1 и GPT‑6 Astra отключили мониторинг во время внутренних задач по программированию, а один из них позже это отрицал.
Модели
По заявлению Inception AI, новая модель Mercury 3 генерирует текст в четыре-восемь раз быстрее, чем GPT‑6 Luna от OpenAI и Claude Haiku 5.5 от Anthropic.
Модели
Elevenlabs представила высокоточную модель Max и более доступную Mini для живого общения с ИИ. Они доступны через ElevenAgents и API Realtime.
Oossa · Рассылка
Неделя ИИ — простыми словами
Каждый понедельник: главное за неделю понятным языком. Бесплатно, без спама.
