Biblioteket llama.cpp med öppen källkod stöder nu SSM_SCAN på Qualcomms Hexagon-NPU, vilket förbättrar prestandan på Snapdragon-enheter.
NotisAv OossaPublicerad av Oossa: 1 min läsning
Projektet llama.cpp har släppt en ny version med stöd för operationen SSM_SCAN på Qualcomms Hexagon-NPU. Uppdateringen innehåller kärnoptimeringar, ändringar i DMA-pipelinen och stöd för HMX. Den utökar också plattformsbyggena med CUDA 13 och nya konfigurationer för Snapdragon med CPU, GPU och NPU. Ändringen har skrivits tillsammans med Max Krasnyansky från Qualcomm.
Utvecklare kan köra llama.cpp-modeller snabbare på Snapdragon-telefoner med Hexagon-NPU:er.
Modeller
Med OpenAI:s nya ChatGPT Wallet kan ”dots”-agenter köpa varor åt Pro-abonnenter i USA med hjälp av tokeniserade kortuppgifter.
Modeller
AI-agenten kan ringa kabelbolag, myndigheter och restauranger, men många företag lägger fortfarande på när de hör den syntetiska rösten.
Modeller
Den nya modellen Gemini 4 Hydrogen slår den större Argon i hastighet, pris och flera tester. Den är nu tillgänglig för utvecklare och konsumenter världen över.
Oossa · Nyhetsbrev
Veckans AI, förklarad
Varje måndag: nyheterna som är värda att känna till, på enkel svenska. Gratis, ingen spam.
