Вышла версия b11757 библиотеки llama.cpp для запуска моделей Llama. В ней исправили обработку графов CUDA и добавили готовые сборки для macOS, iOS и Linux.
ЗаметкаАвтор: OossaОпубликовано Oossa: 1 мин чтения
Команда ggml‑org выпустила llama.cpp версии b11757. После очистки устаревшего пула памяти обновление сбрасывает графы CUDA — это должно уменьшить утечки видеопамяти. Готовые сборки теперь доступны для macOS на Apple Silicon и Intel, iOS, а также нескольких вариантов Ubuntu: для CPU, Vulkan и CUDA 12.8. Релиз опубликован на GitHub.
После исправления у разработчиков, запускающих модели Llama на видеокартах Nvidia, будет реже возникать ошибка нехватки памяти.
Модели
Elevenlabs представила высокоточную модель Max и более доступную Mini для живого общения с ИИ. Они доступны через ElevenAgents и API Realtime.
Модели
ИИ-компаньон установили в США 10,2 млн раз — это больше раннего показателя ChatGPT, а удержание пользователей в первые недели выше.
Модели
Amazon Bedrock позволяет разработчикам в Канаде обращаться к новейшим моделям OpenAI GPT‑5.6, GPT‑6 и GPT‑6.1 через межрегиональный вывод.
Oossa · Рассылка
Неделя ИИ — простыми словами
Каждый понедельник: главное за неделю понятным языком. Бесплатно, без спама.
