Liquid AI har lagt till en ny modell, d1-3B, på Hugging Face. Modellen besvarar namngivna frågor med angivna datatyper utifrån underlag i form av text, JSON eller bilder, och gör det i en enda framåtpassering utan att generera token. Den kan köras med llama.cpp och användare kan skicka frågor till den via en HTTP-slutpunkt på /v1/systemone. Exempel visar hur den hanterar en begäran om återbetalning för en faktura och identifierar katter på ett foto.
Varför det spelar roll
Utvecklare kan integrera snabb frågebesvaring utan token-generering i supportbotar eller bildbaserade arbetsflöden, utan att behöva generera text med en stor språkmodell.
