Oossa

Inception lancia Mercury 3, LLM a diffusione da 1.068 token al secondo

Il nuovo modello di Inception dichiara una velocità di elaborazione di 1.068 token al secondo e una finestra di contesto da 1 milione di token, superando diversi modelli di punta nella maggior parte dei benchmark.

Di Pubblicato da Oossa: 1 min di lettura

wang binghua · Unsplash

Martedì Inception ha presentato il suo ultimo modello linguistico, Mercury 3. L’azienda afferma che il modello può generare testo alla velocità di 1.068 token al secondo e gestire una finestra di contesto da un milione di token. Nei test interni, il modello ha superato GPT‑6 Luna e Claude Haiku 5.5 in otto delle dodici suite di benchmark elencate da Inception.

Un LLM a diffusione come Mercury 3 usa una tecnica di generazione che tratta la creazione del testo come un processo di perfezionamento graduale, simile a quello dei modelli di diffusione per la generazione di immagini. Questo approccio dovrebbe migliorare la qualità e la flessibilità, anche se l’azienda non ha fornito verifiche indipendenti sulla velocità dichiarata.

Come si confronta Mercury 3 con gli altri modelli

La tabella comparativa pubblicata da Inception colloca Mercury 3 davanti a GPT‑6 Luna e Claude Haiku 5.5 nella maggior parte dei test. I benchmark riguardano diverse attività di comprensione del linguaggio, ragionamento e generazione, ma l’articolo non specifica quali test siano stati usati né i punteggi esatti. Non sono ancora state pubblicate valutazioni di terze parti, quindi i risultati non sono stati confermati da soggetti esterni all’azienda.

Perché conta

Se Mercury 3 manterrà le promesse, gli sviluppatori potranno creare applicazioni capaci di gestire testi molto più lunghi senza doverli suddividere in parti più piccole, ad esempio per analizzare documenti integrali o creare contenuti di ampio respiro. Una maggiore velocità di elaborazione dei token riduce anche la latenza dei servizi in tempo reale e può rendere i chatbot più reattivi. Tuttavia, senza test indipendenti, non è ancora chiaro come il modello si comporti nell’uso quotidiano rispetto alle alternative esistenti.

Questo articolo ti è stato utile?
Condividi

Leggi anche

Oossa · Newsletter

La settimana dell'IA, spiegata

Ogni lunedì: le notizie che contano, in parole semplici. Gratis, niente spam.