Ollama gab am 13. Okt. 2026 bekannt, dass seine Cloud-Modelle nun aus Fly.io Sprites heraus erreichbar sind – isolierten Linux-VMs mit persistenten Laufwerken. Ein neuer Ollama Connector ermöglicht es einem Sprite, Modelle wie kimi‑k3, glm‑5.3 oder deepseek‑v4.1‑flash aufzurufen. Fly.io speichert den API-Schlüssel verschlüsselt und fügt ihn am Gateway hinzu. Agenten innerhalb eines Sprites können den Schlüssel nicht sehen. Der Zugriff ist standardmäßig gesperrt und muss durch eine entsprechende Kennzeichnung des Sprites freigegeben werden. Die Einrichtung funktioniert mit jedem OpenAI-kompatiblen SDK: Dazu wird die Gateway-URL angegeben.
Warum es wichtig ist
Entwickler können KI-Agenten in einer abgeschotteten Umgebung ausführen, ohne ihre Ollama-API-Schlüssel zu gefährden.