Команда ggml-org выпустила llama.cpp b12050. Изменение для Vulkan призвано улучшить обработку небольших задач на видеокартах AMD RDNA 3 и RDNA 4. В примечаниях к выпуску нет результатов тестов и оценок прироста скорости.
Для скачивания доступны сборки для macOS, iOS и нескольких платформ Linux с процессорами разных архитектур.
Почему это важно
На GPU RDNA 3 и RDNA 4 программа llama.cpp может лучше справляться с небольшими задачами, однако в примечаниях к выпуску не указано, насколько изменится производительность на практике.
