Ein zehnköpfiges Autorenteam hat am 21. Oktober 2026 auf arXiv einen technischen Bericht zu pplx-embed-v2-late veröffentlicht. Darin stellt es zwei neue Modelle vor: eines mit 0,6 Milliarden und eines mit 9 Milliarden Parametern. Beide können Texte, Bilder und gescannte Dokumente in vielen Sprachen verarbeiten. Laut den Autoren übertreffen sie bei mehreren Suchaufgaben alle anderen Systeme vergleichbarer Größe. Das kleinere Modell ist zudem schnell genug für Suchanfragen in Echtzeit.
So arbeiten die Modelle zusammen
Beide Modelle wurden mittels „Repräsentationsdestillation“ aus einem größeren Modell mit 18 Milliarden Parametern abgeleitet. Das bedeutet, dass das große Modell den beiden neuen beibrachte, ähnliche Embeddings – die numerischen Vektoren, die bei der Suche verwendet werden – zu erzeugen, obwohl sie deutlich kleiner sind. Da die Embeddings denselben Raum nutzen, können Nutzer eine Sammlung mit dem 9‑B‑Modell indexieren, das präzisere Vektoren erzeugt, und sie anschließend mit dem schlanken 0,6‑B‑Modell durchsuchen, das schnell reagiert.
Wo die Modelle erhältlich sind
Die Autoren stellen Download-Links in der Zeile „this https URL“ des Berichts bereit. Da die Arbeit keine Angaben zu Preisen oder Lizenzbedingungen enthält, scheinen die Modelle für die akademische Nutzung oder Forschung kostenlos verfügbar zu sein.
Warum es wichtig ist
Für Entwickler, die Suchmaschinen oder Empfehlungstools bauen, bietet das Modellpaar die Möglichkeit, die Qualität der Indexierung mit dem 9‑B‑Modell hochzuhalten und Nutzeranfragen mit dem 0,6‑B‑Modell schnell zu beantworten. Das könnte die Rechenkosten bei mehrsprachigen Anwendungen mit vielen Bildern senken; unabhängige Benchmarks liegen allerdings noch nicht vor.
