OpenRouterに、無料で利用できる新モデル「inclusionAI: Ling 3.2 Flash」が追加された。モデルの提供元は1社だが、障害が発生した場合はOpenRouterが自動的に別の提供元へ切り替える。スループットは毎秒32トークン、往復レイテンシは1.94秒で、掲載されている提供元の中では最速だ。過去3日間の稼働率は98.82%と記録されている。APIは、ベースURLとモデルのスラッグを変更すれば、OpenAI互換のSDKで利用できる。
なぜ重要か
開発者は、稼働停止を心配せずに高速・低レイテンシのLLMを無料で試せるため、チャットや文章生成アプリのプロトタイプをより速く開発できる。