Oossa

SageMaker voegt volledige fine-tuning toe aan AI Serverless

AWS laat gebruikers nu LLM’s volledig fine-tunen in SageMaker AI Serverless, zonder GPU-clusters. Op grote datasets kan dat de nauwkeurigheid verbeteren.

Kort berichtDoor Gepubliceerd door Oossa: 1 min lezen

Amazon SageMaker AI Serverless Model Customization ondersteunt nu Full Fine-Tuning (FFT). De dienst voert FFT-taken uit zonder dat gebruikers GPU’s hoeven te reserveren of clusters moeten opzetten. In tests met een dataset van 110,000 codevoorbeelden behaalde FFT 90 % semantische correctheid en presteerde het op alle kwaliteitsmetingen beter dan LoRA. Dezelfde code waarmee een LoRA-taak wordt gestart, kan ook voor FFT worden gebruikt door één parameter te wijzigen.

Waarom het ertoe doet

Bedrijven kunnen de nauwkeurigheid van modellen voor complexe taken verbeteren zonder GPU-infrastructuur te beheren, waardoor de operationele lasten en kosten dalen.

Was dit artikel nuttig?
Delen

Lees ook

Oossa · Nieuwsbrief

De AI-week, uitgelegd

Elke maandag: het nieuws dat ertoe doet, in gewone taal. Gratis, geen spam.