Oossa

Inception lance Mercury 3, un LLM de diffusion à 1 068 jetons/s

Le nouveau modèle d’Inception affiche une vitesse de traitement annoncée de 1 068 jetons par seconde et une fenêtre de contexte de 1 million de jetons. Il devance plusieurs modèles de pointe dans la plupart des tests de référence.

Par Publié par Oossa: 1 min de lecture

wang binghua · Unsplash

Inception a annoncé mardi son dernier modèle de langage, Mercury 3. Selon l’entreprise, le modèle peut générer du texte à raison de 1 068 jetons par seconde tout en prenant en charge une fenêtre de contexte d’un million de jetons. Lors de tests internes, il a devancé GPT‑6 Luna et Claude Haiku 5.5 dans huit des douze séries de tests de référence répertoriées par Inception.

Un LLM à diffusion comme Mercury 3 utilise une technique de génération qui traite la création de texte comme un processus d’affinement progressif, à l’image des modèles de diffusion pour la génération d’images. Cette approche vise à améliorer la qualité et la flexibilité, même si l’entreprise n’a pas publié de vérification indépendante de ses performances en vitesse.

Comment Mercury 3 se compare aux autres modèles

Le tableau comparatif d’Inception place Mercury 3 devant GPT‑6 Luna et Claude Haiku 5.5 dans la plupart des tests. Les évaluations couvrent différents types de tâches de compréhension du langage, de raisonnement et de génération, mais l’article ne précise ni les tests utilisés ni les scores exacts. Aucune évaluation par un tiers n’a encore été publiée : les résultats ne sont donc pas confirmés en dehors de l’entreprise.

Pourquoi c'est important

Si Mercury 3 tient ses promesses, les développeurs pourraient créer des applications capables de traiter des textes beaucoup plus longs sans les découper en petits morceaux, par exemple pour analyser un document entier ou créer des contenus longs. Un traitement plus rapide des jetons réduit aussi la latence des services en temps réel, ce qui pourrait rendre les chatbots plus réactifs. Toutefois, en l’absence de tests indépendants, il est difficile de savoir comment le modèle se comporte au quotidien par rapport aux solutions existantes.

Cet article vous a-t-il été utile ?
Partager

À lire ensuite

Oossa · Newsletter

La semaine de l'IA, expliquée

Chaque lundi : l'essentiel de l'actualité, en langage clair. Gratuit, sans spam.