Oossa

AWS Lambda får stöd för GPU:er i serverlösa funktioner

AWS Lambda kan nu köra GPU-accelererade arbetslaster på hanterade EC2-instanser i G-serien. Tjänsten sköter drivrutiner, skalning och lagring.

Av Publicerad av Oossa: 1 min läsning

Andrey Matveev · Unsplash

Amazon Web Services meddelade den 18 november 2026 att Lambda nu kör Event Functions på GPU-baserade EC2-instanser i G-serien. Med den nya funktionen kan du starta AI-inferens, videotranskodning, 3D-rendering eller vetenskapliga simuleringar utan att tillhandahålla hårdvara eller installera drivrutiner. Lambda erbjuder färdiga containeravbilder med populära ramverk som PyTorch, vLLM och SGLang. Du kan anpassa dem eller använda en egen avbild. Varje funktion kan använda upp till 32 GB tillfällig NVMe-lagring och läsa in stora modeller stegvis direkt från S3, vilket håller starttiderna nere.

Så fungerar tjänsten

När du skapar en GPU-accelererad funktion startar Lambda en lämplig instans i G-serien (till exempel G4dn med NVIDIA T4 eller G5 med A10G) i ditt konto och hanterar operativsystemet, drivrutinsuppdateringar och hälsokontroller. Flera anrop körs samtidigt i varje körmiljö, och Lambda skalar de underliggande instanserna utifrån GPU-belastning, CPU-användning och antalet samtidiga förfrågningar. Du kan ange en kapacitetsleverantör som omfattar någon av de GPU-familjer som stöds och även aktivera skalning till noll för att undvika kostnader när resurserna inte används. Priset följer EC2:s vanliga On-Demand-priser, plus en hanteringsavgift på 9.75 % och $0.20 per miljon anrop.

Därför är det här aktuellt nu

Före lanseringen behövde utvecklare underhålla egna GPU-kluster eller använda tjänster som SageMaker, som kräver mer konfiguration. Genom att föra in GPU-beräkningar i den serverlösa modellen gör Lambda det möjligt för team att lägga till ett GPU-steg i ett händelsestyrt arbetsflöde med samma 200+ AWS-händelsekällor som används för vanliga funktioner. Det minskar den operativa arbetsbördan och gör det enklare att testa eller driftsätta små till medelstora modeller, medieflöden eller simuleringsjobb som startar vid uppladdningar till S3, SQS-meddelanden eller API-anrop.

Varför det spelar roll

För utvecklare innebär det nya GPU-alternativet att de kan lägga till högpresterande beräkningar i befintliga serverlösa flöden utan att köpa eller hantera hårdvara. Företag kan testa AI-inferens eller videobearbetning till lägre kostnad och med högre hastighet, samtidigt som de fortsätter använda välbekanta Lambda-verktyg och händelsekällor.

Var den här artikeln användbar?
Dela

Läs vidare

Oossa · Nyhetsbrev

Veckans AI, förklarad

Varje måndag: nyheterna som är värda att känna till, på enkel svenska. Gratis, ingen spam.