Het team van ggml-org heeft llama.cpp b11972 uitgebracht, met oplossingen voor twee situaties waarin buiten toegewezen buffers kon worden geschreven. De ene oplossing wijst indices van control-vectorlagen af die hoger zijn dan het aantal lagen van het model. De andere past lussen voor beeldposities in verschillende vision-encoders aan, zodat ze binnen het aantal patches blijven wanneer beeldrasters niet aansluiten op de samenvoegingsgrootte. Bij het bouwen van de grafiek vereist PaddleOCR nu ook afbeeldingen waarvan de afmetingen aansluiten op die samenvoegingsgrootte.
Waarom het ertoe doet
Wie modellen met beeldinvoer of control vectors gebruikt, kan in deze situaties geheugenbeschadiging voorkomen. De release notes geven echter niet aan hoe vaak dit voorkomt.
