Il team ggml-org ha pubblicato la versione b11795 di llama.cpp. L’aggiornamento modifica il server, che ora consente di passare senza modifiche i parametri di sampling nel campo extra_params dell’endpoint /v1/messages. Aggiunge inoltre binari precompilati per macOS (Apple Silicon e Intel), iOS e diverse build per Ubuntu con CPU e Vulkan.
Perché conta
Gli sviluppatori possono ora personalizzare le impostazioni di generazione tramite API senza scrivere codice aggiuntivo, integrando più rapidamente llama.cpp nelle app.
