Recursive hat sein neues Coding-Modell Flint unter der Apache 2.0-Lizenz veröffentlicht. Flint ist ein Mixture-of-Experts-Modell (MoE) mit insgesamt 40 Milliarden Parametern, von denen bei einer Anfrage jeweils nur 2,5 Milliarden aktiv sind. Das Unternehmen gibt an, dass das Modell im SWE‑bench-Verified-Benchmark, einem Test für die Fähigkeit, Code zu schreiben, eine Genauigkeit von 74.2 % erreicht. Außerdem könne Flint auf einem MacBook Pro mit M4 Pro mehr als 125 Tokens pro Sekunde generieren.
Was bedeutet Flint für Entwickler?
Da Flint Open Weights bietet, kann jeder die Modellgewichte herunterladen und das Modell lokal ausführen, ohne einen Cloud-Dienst zu benötigen. Das kann die Kosten für Entwickler senken, die auf ihrer eigenen Hardware einen schnellen Coding-Assistenten brauchen. Die angegebene Geschwindigkeit von 125 Tokens/sec bedeutet, dass sich ein typischer Codeausschnitt auf einem aktuellen MacBook in wenigen Sekunden erstellen lässt.
Warum es wichtig ist
Entwickler können ein leistungsfähiges Coding-Modell nun auf ihren eigenen Laptops ausführen und so Abo-Gebühren für Cloud-KI-Dienste vermeiden. Die Veröffentlichung der Open Weights ermöglicht es Forschern außerdem, ohne rechtliche Einschränkungen mit dem Modell zu experimentieren. Die Leistung auf einem Laptop für Endverbraucher deutet darauf hin, dass Flint im Alltag beim Programmieren hilfreich sein kann; unabhängige Tests zu Geschwindigkeit und Genauigkeit liegen jedoch noch nicht vor.
