Oossa

Inception lanceert Mercury 3, een diffusion-LLM met 1.068 tokens per seconde

Volgens Inception haalt het nieuwe Mercury 3-model een verwerkingssnelheid van 1.068 tokens per seconde en ondersteunt het een context van 1 miljoen tokens. Op de meeste benchmarktests scoort het hoger dan verschillende toonaangevende modellen.

Door Gepubliceerd door Oossa: 1 min lezen

wang binghua · Unsplash

Inception heeft dinsdag zijn nieuwste taalmodel aangekondigd: Mercury 3. Volgens het bedrijf kan het model tekst genereren met een snelheid van 1.068 tokens per seconde en een contextvenster van één miljoen tokens verwerken. In interne tests scoorde het model hoger dan GPT‑6 Luna en Claude Haiku 5.5 op acht van de twaalf benchmarkreeksen die Inception vermeldt.

Een diffusion-LLM als Mercury 3 gebruikt een generatietechniek waarbij tekst geleidelijk wordt verfijnd, vergelijkbaar met de manier waarop diffusiemodellen voor beeldgeneratie werken. Deze aanpak moet de kwaliteit en flexibiliteit verbeteren, maar het bedrijf heeft de snelheidsclaim niet onafhankelijk laten verifiëren.

Hoe Mercury 3 zich verhoudt tot andere modellen

In de eigen vergelijkingstabel van Inception scoort Mercury 3 op de meeste tests hoger dan GPT‑6 Luna en Claude Haiku 5.5. De benchmarks bestrijken uiteenlopende taken op het gebied van taalbegrip, redeneren en tekstgeneratie, maar het artikel vermeldt niet welke specifieke tests zijn gebruikt of wat de exacte scores waren. Er is nog geen evaluatie door een externe partij gepubliceerd, dus de resultaten zijn buiten het bedrijf niet bevestigd.

Waarom het ertoe doet

Als Mercury 3 de claims waarmaakt, kunnen ontwikkelaars toepassingen bouwen die veel langere teksten verwerken zonder die in kleinere stukken op te delen, bijvoorbeeld voor documentanalyse of het maken van lange teksten. Een hogere verwerkingssnelheid betekent ook minder vertraging bij realtime diensten, waardoor chatbots sneller kunnen aanvoelen. Zonder onafhankelijke tests blijft echter onduidelijk hoe het model in alledaags gebruik presteert ten opzichte van bestaande opties.

Was dit artikel nuttig?
Delen

Lees ook

Oossa · Nieuwsbrief

De AI-week, uitgelegd

Elke maandag: het nieuws dat ertoe doet, in gewone taal. Gratis, geen spam.