Liquid AI добавила новую модель d1-3B на Hugging Face. Она отвечает на вопросы с заданными именами и типами данных, используя в качестве входа текст, JSON или изображения. Для этого достаточно одного прямого прохода — генерировать токены не нужно. Запустить модель можно с помощью llama.cpp, а отправлять ей запросы — через HTTP-эндпоинт /v1/systemone. В примерах показано, как модель обрабатывает запрос о возврате денег за покупку и находит кошек на фотографии.
Почему это важно
Разработчики смогут добавить в ботов поддержки и сценарии работы с изображениями быстрые ответы на вопросы без генерации токенов и необходимости использовать большие языковые модели.
