DeepSeek загрузила веса модели V4.1-Flash на HuggingFace и открыла к ней доступ через API моделей Baseten. Всего в модели 552 B параметров, но на этапе предварительной обработки активны только 8 B, а при декодировании — 16 B, поэтому её дешевле запускать, чем предыдущие версии. Модель поддерживает контекстное окно на 1 M токенов и принимает на вход текст и изображения. Система обслуживания Baseten направляет запросы на GPU, где уже хранится нужный префикс, что дополнительно ускоряет работу модели для кодинг-агентов.
Почему это важно
Разработчики кодинг-ассистентов могут сократить расходы на GPU и обрабатывать более длинные запросы без дополнительной памяти.
