A biblioteca de inferência Llama de código aberto lançou a versão b11757, com uma correção no gerenciamento de gráficos CUDA e novos binários para macOS, iOS e Linux.
NotaPor OossaPublicado pelo Oossa: 1 min de leitura
A equipe ggml-org lançou a versão b11757 do llama.cpp. A atualização limpa os gráficos CUDA após a liberação de um pool de memória legado, o que deve reduzir vazamentos de memória na GPU. Agora há binários pré-compilados para macOS com Apple Silicon, macOS com Intel, iOS e várias versões do Ubuntu (CPU, Vulkan e CUDA 12.8). O lançamento foi publicado no GitHub.
Desenvolvedores que executam modelos Llama em GPUs Nvidia terão menos erros de falta de memória após a correção.
Modelos
Elevenlabs apresenta o modelo Max, de alta precisão, e o Mini, mais barato, para conversas ao vivo com IA. Ambos estão disponíveis no ElevenAgents e por uma API Realtime.
Modelos
Microsoft e AMD anunciaram o upscaling por IA para Xbox Series e ROG Xbox Ally X. A chegada varia por aparelho e ainda não tem data definida para os consoles.
Modelos
A assistente de IA alcançou 10,2 milhões de instalações nos EUA, superou os números iniciais do ChatGPT e teve maior retenção no curto prazo.
Oossa · Newsletter
A semana em IA, explicada
Toda segunda-feira: as notícias que valem a pena, em linguagem simples. Grátis, sem spam.
