Oossa

llama.cpp b11977 исправляет обработку SCALE во views OpenVINO

В релизе исправлена ошибка, из-за которой масштабироваться мог весь исходный тензор, а не его срез, что грозило выходом за границы буфера результата.

ЗаметкаАвтор: Опубликовано Oossa: 1 мин чтения

В релизе ggml-org llama.cpp b11977 исправлена обработка операций SCALE со срезами тензоров в бэкенде OpenVINO. Раньше представление с шагом (strided view) могло обрабатываться как исходный тензор целиком: результат получался больше ожидаемого, что могло приводить к сбоям тестов.

Теперь операция выполняется только над срезом, а SCALE на месте отклоняется для несмежных представлений: при обратной записи результат мог попасть не в те элементы. В релизе также перечислены сборки для macOS, Linux, Android и Windows.

Почему это важно

Для разработчиков, использующих бэкенд OpenVINO в llama.cpp со срезами тензоров, это исправление устраняет ситуацию, которая могла приводить к сбоям тестов или записи результата не в те элементы.

Эта статья была полезной?
Поделиться

Читайте также

Oossa · Рассылка

Неделя ИИ — простыми словами

Каждый понедельник: главное за неделю понятным языком. Бесплатно, без спама.