OpenRouter a ajouté un nouveau modèle gratuit appelé inclusionAI: Ling 3.2 Flash. Il fonctionne avec un seul fournisseur, mais OpenRouter bascule automatiquement vers un autre en cas de panne du premier. Son débit atteint 32 tokens par seconde et sa latence aller-retour est de 1.94 seconde, la meilleure parmi les fournisseurs répertoriés. Sa disponibilité au cours des trois derniers jours s’établit à 98.82 %. L’API est compatible avec tous les SDK compatibles avec OpenAI : il suffit de modifier l’URL de base et le slug du modèle.
Pourquoi c'est important
Les développeurs peuvent tester gratuitement un LLM à haut débit et faible latence sans craindre les interruptions de service, et accélérer ainsi le prototypage d’applications de chat ou de génération de texte.