Notis · 1 min läsning
Swift 1.5 minskar tiden för benchmarkuppgifter på en RTX 3090
En Reddit-användare uppger att en modifierad Swift 1.5-modell klarade benchmarkuppgifter omkring 37 procent snabbare än HyperQwens grundkonfiguration på ett RTX 3090-kort. Resultaten visar mindre skillnader mellan kvalitetstesterna.
Oossa · Om Oossa
En Reddit-användare säger att en Swift 1.5-modell anpassad för HyperQwen i genomsnitt tog 68,2 sekunder per uppgift, jämfört med 108,1 sekunder för HyperQwens snabbkvantiserade Qwen-modell. Testerna kördes på ett enda RTX 3090-kort med 24 GB minne och en konfigurerad kontext på 150 000 token.
Skribenten säger att den modifierade modellen var snabbare totalt sett eftersom den genererade färre token, trots en något lägre avkodningshastighet. I flera av de redovisade testerna var resultaten nära varandra, men inte identiska. Swift 1.5 med INT4-utmatningslager fick till exempel 91 procent på ett kodningstest med 100 problem, jämfört med 89 procent för HyperQwen.
Varför det spelar roll
Om skribentens resultat håller även i andra tester tyder de på att modelljustering kan minska den tid och mängd token som krävs för lokala AI-uppgifter på konsumenthårdvara.
Källor och referenser
| # | Källa | Utgivare | Datum | Kärnpunkt |
|---|---|---|---|---|
| 1 | Swift 1.5 + HyperQwen = 37% less task completion time at 100+ tps w/ 150k context on RTX 3090 ↗ | Reddit r/LocalLLaMA | 28 sep. 2026 | Hi everyone :) The amazing Swift finetunes of Qwen3.8 27B generate much fewer tokens at mostly similar benchmark performance to the original |
1 källor
Senast uppdaterad:
Oossa · Nyhetsbrev
Veckans AI, förklarad
Varje måndag: nyheterna som är värda att känna till, på enkel svenska. Gratis, ingen spam.