# Aleph Alpha erklärt die Architekturentscheidungen bei Kolibri

> Der Blog zeigt, wie Parameterzahl, FLOPs und Cache-Größe die Trainingskosten und die Bereitstellungsgeschwindigkeit der Open-Weight-Modelle Kolibri beeinflussen.

Oossa · 2026-10-07 · https://oossa.com/de/aleph-alpha-explains-trade-offs-in-kolibri-model-design

Aleph Alpha hat am 10. Juli 2026 einen ausführlichen Blogbeitrag veröffentlicht, der zeigt, wie sich die Architektur seiner Sprachmodelle der Kolibri-Reihe auf die Trainings- und Bereitstellungskosten auswirkt. Darin werden Formeln für die Gesamtzahl und die aktiven Parameter, die FLOPs pro Token und die Größe des KV-Caches erläutert, in dem der Kontext gespeichert wird. Mit einem interaktiven Tool können Nutzer Einstellungen anpassen und Kolibri Origin, Kolibri sowie weitere Open-Weight-Modelle vergleichen.

## Die Fakten

- Der Blog wurde am 10.07.2026 veröffentlicht (2026-07-10).
- Das Kolibri-Modell hat insgesamt 78.1 B Parameter und benötigt 3.5 B aktive FLOPs pro Token bei einem Kontextfenster von 16 K.

## Warum es wichtig ist

Entwickler können mit dem Tool Modellgröße und Geschwindigkeit gegeneinander abwägen und eine Konfiguration auswählen, die zu ihrem Hardwarebudget passt.

## Quellen und Referenzen

1. [Designing Kolibri: Architecture Trade-Offs from First Principles](https://www.aleph-alpha.com/en/blog/designing-kolibri-architecture-trade-offs-from-first-principles/) – Aleph Alpha
2. [Specialized LLMs punch above their weight](https://www.aleph-alpha.com/en/blog/specialized-llms-punch-above-their-weight/) – Aleph Alpha

Zuletzt aktualisiert: 2026-10-08