Fireworks AI hat einen technischen Bericht dazu veröffentlicht, wie das Unternehmen das Reinforcement Learning für sein Modell Kimi K3 beschleunigt. Das System hat 2,8 Billionen Parameter und ein Kontextfenster von 1 Million Token. Laut dem Unternehmen ermöglichen neue Kernel und Kommunikationsverfahren Vorwärts- und Rückwärtsdurchläufe, die 1,3- bis 2,6-mal schneller sind. Mit derselben Konfiguration erzielte das auf Kimi basierende Rechtsmodell Harvey Tenet beim LAB-Contracts-Benchmark eine All-Pass-Quote von 19,7 % und übertraf damit den bisherigen Spitzenreiter Fable 5 mit 11,5 %.
Warum es wichtig ist
Die Geschwindigkeitsgewinne ermöglichen es Entwicklern, spezialisierte KI-Systeme schneller weiterzuentwickeln. Das bessere Ergebnis beim Rechtsbenchmark zeigt außerdem, dass das Modell komplexe Vertragsanalysen besser bewältigen kann.
