Oossa

FinVector-Market-4B presteert veel beter op financiële taken na LoRA-training

Het model verhoogt de exact-matchscore op FinQA van 14,7% naar 40% en verbetert ook de nauwkeurigheid op andere taken na een beperkte LoRA-finetuning.

Kort berichtDoor Gepubliceerd door Oossa: 1 min lezen

Onderzoekers onder leiding van Alina Khaybullina brachten FinVector-Market-4B uit, een versie van Qwen3.5‑4B die met rank-16-LoRA is aangepast op 22.000 financiële voorbeelden. In de studie worden het basismodel en de aangepaste versie vergeleken op een benchmark met 600 voorbeelden en prompts op basis van JSON-schema’s. Alleen al het meegeven van het schema verhoogt de geldigheid van JSON-uitvoer van 0% naar 91,3% bij het basismodel. Met verder identieke, expliciete prompts verhoogt het aangepaste model de exact-matchnauwkeurigheid op FinQA van 14,7% naar 40,0% en de correctheid van rekenmachine-uitdrukkingen van 48,0% naar 82,7%.

Waarom het ertoe doet

De resultaten suggereren dat een kleine, gerichte finetuning algemene modellen veel bruikbaarder kan maken voor financiële professionals.

Was dit artikel nuttig?
Delen

Lees ook

Oossa · Nieuwsbrief

De AI-week, uitgelegd

Elke maandag: het nieuws dat ertoe doet, in gewone taal. Gratis, geen spam.