Baseten сообщила, что ее Model APIs теперь поддерживают отложенную загрузку инструментов для открытых моделей, таких как DeepSeek, Kimi и GLM. Благодаря этому схемы инструментов не включаются в системный промпт, а загружаются только при необходимости. В тестах Claude Code с тремя подключенными плагинами стоимость выполнения задач в бенчмарках для программирования снизилась на 62,5%, а скорость выросла на 26,2%. В агентских бенчмарках затраты сократились примерно на 51%, а время выполнения — на 15%.
Почему это важно
Разработчики могут запускать ИИ-агентов дешевле и быстрее, не меняя модели и код.