Google’s EmbeddingGemma 2 is een model met open gewichten voor zoeken en informatie ophalen, en ondersteunt tekst, code, afbeeldingen, video en audio. Volgens Google zet het deze gegevens om in een gedeelde ruimte van 768 dimensies, zodat ontwikkelaars in verschillende mediatypen kunnen zoeken zonder aparte embeddingruimtes te hoeven onderhouden. Het model is beschikbaar op Hugging Face onder de Apache 2.0-licentie.
Ontwikkelaars kunnen alleen de encoders laden die ze nodig hebben: het model varieert van 270 miljoen parameters voor tekst en code tot 740 miljoen voor volledige multimodale ondersteuning. De vectoren kunnen ook worden ingekort om geheugen te besparen, maar volgens Google daalt de kwaliteit van het ophalen bij 128 dimensies tot ongeveer 75% voor afbeeldingen, video en spraak.
Waarom het ertoe doet
Ontwikkelaars die lokaal zoeken bouwen, kunnen één model gebruiken om informatie uit documenten en media op te halen. Maar kleinere vectoren besparen weliswaar opslagruimte, maar kunnen de resultaten bij zoekopdrachten naar niet-tekstuele inhoud verslechteren; de bron bevat geen onafhankelijke testresultaten.