Das Team von ggml-org hat llama.cpp b11867 veröffentlicht. In den Versionshinweisen wird eine Überarbeitung des Server-Einstiegspunkts erwähnt. Auf der Release-Seite stehen Builds für macOS, iOS und Linux bereit, darunter Optionen für CPU, Vulkan und CUDA.
Aus den verfügbaren Hinweisen geht weder hervor, was sich für Servernutzer ändert, noch, ob sich die Überarbeitung auf Leistung oder Kompatibilität auswirkt.
Warum es wichtig ist
Entwickler, die einen llama.cpp-Build auswählen, finden Downloads für verschiedene Plattformen und Hardwaretypen. Aus den vorliegenden Versionshinweisen geht jedoch nicht hervor, ob die Überarbeitung des Servers Einrichtung oder Verhalten verändert.
