Oossa

Cerebras将低延迟AI推理服务拓展至云平台和开发工具

Cerebras新增更多模型、云市场上架渠道和开发者集成,让其超高速推理芯片更易使用。

简讯Oossa1 分钟阅读

Cerebras宣布,其晶圆级AI芯片现已通过主要云市场和自助服务门户提供,推理速度最高可达典型GPU的15倍。该公司还上线了数十种热门开源模型,并新增与LangChain、Docker和VS Code等框架的集成,让开发者可以通过熟悉的API调用这项高速服务。此举旨在将原始速度转化为日常AI应用中实用的基础组件。

为什么重要

更便捷地使用超低延迟推理服务,可以让更多产品实现即时响应,改善用户体验,并支持开发全新的实时AI功能。

这篇文章有帮助吗?
分享

继续阅读

Oossa · 新闻简报

一周 AI,讲明白

每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。