La bibliothèque open source llama.cpp utilise désormais quatre colonnes d’état GDN par warp CUDA, pour de meilleures performances GPU.
BrèvePar OossaPublié par Oossa: 1 min de lecture
L’équipe ggml-org a publié la version b11494 de llama.cpp. Cette mise à jour modifie le backend CUDA : chaque warp traite désormais quatre colonnes d’état GDN au lieu de deux. Ce réglage est maintenant activé par défaut. Des binaires pour macOS (Apple Silicon et Intel), iOS et plusieurs versions d’Ubuntu sont disponibles au téléchargement.
Les développeurs qui utilisent llama.cpp sur des GPU NVIDIA peuvent s’attendre à une inférence plus rapide, sans modifier leur code.
Modèles
Le nouveau système de relecture de l’entreprise, fondé sur Claude et composé de trois agents, a détecté 73,43 % des erreurs dans les affirmations centrales, contre 14,81 % pour le précédent meilleur résultat.
Modèles
Le nouveau modèle de Mistral, doté d’un billion de paramètres, obtient un score de 38 sur un indice indépendant, mais coûte plus cher par tâche que les modèles ouverts concurrents.
Modèles
OpenAI a signalé deux campagnes d’influence qui ont utilisé des contenus générés par IA pour faire publier de fausses informations dans de vrais médias, et a bloqué les comptes concernés.
Oossa · Newsletter
La semaine de l'IA, expliquée
Chaque lundi : l'essentiel de l'actualité, en langage clair. Gratuit, sans spam.
