Oossa

llama.cpp b11972 behebt zwei Fehler an Puffergrenzen

Das Release von ggml-org begrenzt die Layer-Indizes von Steuervektoren und passt Bildpositionsschleifen an, damit keine Daten außerhalb zugewiesener Puffer geschrieben werden.

KurzmeldungVon Von Oossa veröffentlicht: 1 Min. Lesezeit

Das Team von ggml-org hat llama.cpp b11972 veröffentlicht und damit zwei Fälle behoben, in denen Daten außerhalb zugewiesener Puffer geschrieben werden konnten. In einem Fall werden Steuervektor-Layer-Indizes oberhalb der Layer-Anzahl des Modells zurückgewiesen. Im anderen wurden Bildpositionsschleifen in mehreren Vision-Encodern angepasst, damit sie innerhalb der Patch-Anzahl bleiben, wenn Bildraster nicht auf die Merge-Größe abgestimmt sind. Beim Erstellen des Graphen erfordert PaddleOCR nun ebenfalls Bilder, deren Abmessungen auf die Merge-Größe abgestimmt sind.

Warum es wichtig ist

Wer Modelle mit Bildeingaben oder Steuervektoren verwendet, kann in diesen Fällen Speicherbeschädigungen vermeiden. Wie häufig sie auftreten, geht aus den Release Notes jedoch nicht hervor.

War dieser Artikel hilfreich?
Teilen

Als Nächstes lesen

Oossa · Newsletter

Die KI-Woche, erklärt

Jeden Montag: die Nachrichten, die man kennen sollte – verständlich. Kostenlos, kein Spam.