Oossa

Inception发布Mercury 3扩散式大语言模型,速度达每秒1,068个token

Inception称,新款Mercury 3每秒可处理1,068个token,上下文窗口达1 million个token;在多数基准测试中,其表现超过多款领先模型。

作者: Oossa 发布日期: 1 分钟阅读

wang binghua · Unsplash

Inception周二发布了最新语言模型Mercury 3。该公司称,这款模型每秒可生成1,068个token,并支持1 million个token的上下文窗口。在Inception列出的12组基准测试中,该模型在其中8组的表现超过GPT‑6 Luna和Claude Haiku 5.5。

像Mercury 3这样的扩散式大语言模型,采用逐步完善文本的生成方式,类似图像生成扩散模型的工作原理。这种方法旨在提升内容质量和灵活性,不过该公司尚未公布对其速度声明的独立验证结果。

Mercury 3与其他模型的表现对比

Inception自行制作的对比表显示,Mercury 3在多数测试中的表现优于GPT‑6 Luna和Claude Haiku 5.5。这些基准测试涵盖语言理解、推理和生成等任务,但报道没有说明具体使用了哪些测试,也未列出准确分数。目前还没有第三方评测,因此这些结果尚未得到公司以外的验证。

为什么重要

如果Mercury 3确实达到其宣称的水平,开发者就能构建可处理更长文本、无需将内容拆成小段的应用,例如全文档分析或长篇内容创作。更快的token处理速度也意味着实时服务的延迟更低,聊天机器人或许能因此响应得更迅速。不过,在缺乏独立测试的情况下,该模型在日常使用中的表现是否优于现有选择,仍不明朗。

这篇文章有帮助吗?
分享

继续阅读

Oossa · 新闻简报

一周 AI,讲明白

每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。