Architect Financial Technologies已推出Liquid Inference。这款LLM路由器会为每条请求进行实时竞价：服务提供商竞标处理每条提示，买方则支付符合其规则的最低报价。开发者只需更改代码中的基础URL即可使用该服务。
为什么重要
开发者有望通过自动选择符合自身标准的最低价服务提供商，降低推理成本。
Architect推出面向LLM请求的Liquid Inference竞价平台
Architect Financial Technologies推出Liquid Inference：服务提供商可实时竞价处理每条LLM提示。
简讯作者： OossaOossa 发布日期: 1 分钟阅读
继续阅读
Oossa · 新闻简报
一周 AI，讲明白
每周一，用通俗的语言讲清值得知道的新闻。免费，无垃圾邮件。