Oossa

رفع مشکل انتقال DMA با گام بزرگ در llama.cpp روی Hexagon

نسخه b12030 با اصلاح آدرس‌های حافظه نادرست در مسیر جایگزین DMA در Hexagon، مشکل گام‌های انتقال 16 MB یا بیشتر را برطرف می‌کند.

خبر کوتاهنویسنده: منتشرشده توسط Oossa: 1 دقیقه مطالعه

نسخه b12030 از ggml-org/llama.cpp باگ انتقال حافظه در Hexagon را که گام‌های 16 MB یا بیشتر را تحت‌تأثیر قرار می‌داد، رفع می‌کند. در Hexagon v75 و نسخه‌های بعدی، توصیف‌گر DMA اندازه و گام سطرها را در 24 بیت نگه می‌دارد؛ مسیر جایگزین قبلی انتقال‌ها را بر اساس تعداد سطرها تقسیم می‌کرد، اما همچنان ممکن بود گام‌های بیش‌ازحد بزرگ را کوتاه کند و در نتیجه آدرس‌های نادرستی بسازد. این اصلاح در چنین شرایطی برای هر سطر یک انتقال انجام می‌دهد و نسخه جدید دو آزمون CONT با گام مبدأ بیش از 16 MB نیز اضافه می‌کند.

چرا مهم است

برای کسانی که llama.cpp را روی سخت‌افزارهای Hexagon تحت‌تأثیر اجرا می‌کنند، این اصلاح باید از ایجاد آدرس‌های حافظه نادرست هنگام انتقال‌هایی با گام‌های بسیار بزرگ جلوگیری کند؛ یادداشت‌های انتشار مشخص نمی‌کنند کدام بارهای کاری با این مشکل روبه‌رو می‌شوند.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.