Die Open-Source-Bibliothek llama.cpp lädt Modellzeilen unter Windows nun im Voraus und beschleunigt so die Inferenz auf dieser Plattform.
KurzmeldungOossaVon Oossa veröffentlicht: 1 Min. Lesezeit
Das llama.cpp-Projekt hat am 30. September 2026 Version b11294 veröffentlicht. Das Update bringt Row-Prefetching für Windows: Die Bibliothek kann Modelldaten im Voraus laden und so die Generierung beschleunigen. Die Änderung stammt von Pranesh Gonegandla und wurde unverändert übernommen. Außerdem enthält das Update kleinere Aufräumarbeiten und Build-Fixes.
Dank der neuen Prefetch-Logik können Windows-Nutzer llama.cpp-Modelle schneller ausführen.
Zuletzt aktualisiert: ·Markdown
Modelle
Googles neue Funktion Guided Vision startet auf Android-Smartphones und beschreibt per Audio, was die Kamera sieht. Sie richtet sich an Menschen mit eingeschränktem Sehvermögen.
Modelle
In einem Test hielten fast die Hälfte der Teilnehmenden den neuen KI-Video-Avatar für einen echten Menschen – deutlich mehr als bei früheren Systemen.
Modelle
Die Unternehmen entwickeln GPT-Synopsys für den Einsatz mit Synopsys-Designtools. Erste Gespräche mit Kunden laufen, einen Termin für die allgemeine Verfügbarkeit gibt es aber noch nicht.
Oossa · Newsletter
Die KI-Woche, erklärt
Jeden Montag: die Nachrichten, die man kennen sollte – verständlich. Kostenlos, kein Spam.
