Die Open-Source-Laufzeitumgebung für LLMs erhält neue vorgefertigte Pakete für Apple Silicon, Intel-Macs, Ubuntu-CPUs, Vulkan und CUDA 12.8.
KurzmeldungVon OossaVon Oossa veröffentlicht: Zuletzt aktualisiert: 1 Min. Lesezeit
ggml‑org hat Version b11539 von llama.cpp veröffentlicht, einer schlanken Laufzeitumgebung für LLMs, die auf vielen Geräten läuft. Neue Binärarchive gibt es für macOS mit Apple Silicon, macOS mit Intel-Prozessoren, das iOS-XCFramework sowie verschiedene Ubuntu-Versionen für CPU, Vulkan und CUDA 12.8. Die Download-Links stehen auf der GitHub-Release-Seite.
Entwickler können llama.cpp damit auf mehr Hardware lokal ausführen, ohne das Programm selbst kompilieren zu müssen.
Modelle
Der neue Prüfer des Unternehmens mit drei Claude-basierten Agenten fand 73,43 % der Fehler in zentralen Behauptungen – deutlich mehr als der bisherige Spitzenwert von 14,81 %.
Modelle
Mistrals neues Modell mit einer Billion Parametern erreicht in einem unabhängigen Index 38 Punkte, kostet pro Aufgabe aber mehr als konkurrierende offene Modelle.
Modelle
OpenAI meldet zwei Einflusskampagnen, die mit KI erstellte Inhalte nutzten, um Falschmeldungen in echten Medien zu platzieren. Die beteiligten Konten wurden gesperrt.
Oossa · Newsletter
Die KI-Woche, erklärt
Jeden Montag: die Nachrichten, die man kennen sollte – verständlich. Kostenlos, kein Spam.
