De opensource-LLM-runner past de OpenCL-code aan om tensoren op Adreno-GPU’s correct te verwerken en levert nieuwe binaries voor macOS, iOS en Linux.
Kort berichtOossa1 min lezen
Het ggml-org-team heeft versie b11268 van llama.cpp uitgebracht. De update verhelpt een bug in de OpenCL-driver, die tensoren verwerkte voor de q5_K-kernel op Adreno-GPU’s. Er zijn nieuwe kant-en-klare binaries beschikbaar voor Apple Silicon-Macs, Intel-Macs, iOS en verschillende Linux-configuraties, waaronder CPU, Vulkan en CUDA 12.8.
De oplossing verbetert de prestaties en stabiliteit voor ontwikkelaars die LLM’s draaien op Android-apparaten met Adreno-GPU’s.
Modellen
OpenAI houdt de prijs van GPT‑6.1 Sol op $2 tot $10 per miljoen tokens en zegt dat het model beter presteert. Daarmee is het goedkoper dan modellen van Anthropic en DeepSeek.
Modellen
De nieuwe stemmen van v4 en v4 Turbo kosten $0,08 en $0,04 per 1.000 tekens. Tot 12 oktober geldt een actieprijs van respectievelijk $0,022 en $0,011 per 1.000 tekens.
Modellen
Met Oracle’s nieuwe Fusion Claw-runtime kunnen Fusion-apps meerstapstaken uitvoeren, zoals personeelsplanning en boekhouding. AI wordt ingezet voor het redeneren, terwijl berekeningen buiten het model blijven.
Oossa · Nieuwsbrief
De AI-week, uitgelegd
Elke maandag: het nieuws dat ertoe doet, in gewone taal. Gratis, geen spam.
| # | Bron | Medium | Datum | Kernpunt |
|---|---|---|---|---|
| 1 | ggml-org/llama.cpp b11268 ↗ | llama.cpp | 30 sep 2026 | <details open> opencl: fix get_tensor for q5_K adreno gemm_nonshuffle kernel (#29555) </details> **Website:** - <https://llama.app> **Attest |
1 bronnen
