Oossa

Inception lança Mercury 3, LLM de difusão com 1.068 tokens por segundo

O novo modelo da Inception promete processar 1.068 tokens por segundo e ter contexto de 1 milhão de tokens, além de superar vários modelos líderes na maioria dos testes de benchmark.

Por Publicado pelo Oossa: 1 min de leitura

wang binghua · Unsplash

A Inception anunciou na terça-feira seu mais recente modelo de linguagem, o Mercury 3. Segundo a empresa, o modelo gera texto a uma velocidade de 1.068 tokens por segundo e aceita uma janela de contexto de 1 milhão de tokens. Em testes internos, superou o GPT‑6 Luna e o Claude Haiku 5.5 em oito dos doze conjuntos de benchmarks listados pela Inception.

Um LLM de difusão como o Mercury 3 usa uma técnica de geração que trata a criação de texto como um processo de refinamento gradual, semelhante ao funcionamento dos modelos de difusão para geração de imagens. A abordagem busca melhorar a qualidade e a flexibilidade, embora a empresa não tenha divulgado uma verificação independente da alegação de velocidade.

Como o Mercury 3 se compara a outros modelos

A tabela comparativa da própria Inception coloca o Mercury 3 à frente do GPT‑6 Luna e do Claude Haiku 5.5 na maioria dos testes. Os benchmarks abrangem uma combinação de tarefas de compreensão de linguagem, raciocínio e geração, mas o artigo não especifica quais testes foram usados nem as pontuações exatas. Ainda não foi publicada nenhuma avaliação de terceiros, portanto os resultados seguem sem confirmação externa.

Por que importa

Se o Mercury 3 corresponder às promessas, desenvolvedores poderão criar aplicações capazes de processar textos muito mais longos sem dividi-los em partes menores, como ferramentas de análise de documentos completos ou criação de conteúdo extenso. O processamento mais rápido de tokens também reduz a latência em serviços em tempo real, o que pode deixar os chatbots mais ágeis. No entanto, sem testes independentes, ainda não está claro como o modelo se sai no uso cotidiano em comparação com as opções existentes.

Este artigo foi útil?
Compartilhar

Leia a seguir

Oossa · Newsletter

A semana em IA, explicada

Toda segunda-feira: as notícias que valem a pena, em linguagem simples. Grátis, sem spam.