Oossa

پشتیبانی llama.cpp از کاشی‌بندی LFM2 و پلتفرم‌های بیشتر

محیط اجرای متن‌باز LLM اکنون پارامترهای کاشی‌بندی را از فایل‌های GGUF می‌خواند و نسخه‌های اجرایی را برای طیف گسترده‌ای از پردازنده‌ها، کارت‌های گرافیک و سیستم‌عامل‌ها ارائه می‌کند.

خبر کوتاهنویسنده: منتشرشده توسط Oossa: 1 دقیقه مطالعه

تیم ggml‑org، llama.cpp را به‌روزرسانی کرده تا تنظیمات کاشی‌بندی LFM2‑VL را از فراداده‌های GGUF بخواند. به این ترتیب، مدل می‌تواند تصاویر را بر اساس مقادیر min_tiles، max_tiles، tile_size و max_pixels_tolerance ذخیره‌شده در فایل مدل به کاشی‌هایی تقسیم کند. این انتشار همچنین نسخه‌های ازپیش‌کامپایل‌شده‌ای را برای پلتفرم‌های گوناگون ازجمله macOS، Linux، Windows و Android و نیز شتاب‌دهنده‌های سخت‌افزاری مختلف مانند CUDA 13، Vulkan و OpenCL عرضه می‌کند.

چرا مهم است

توسعه‌دهندگان اکنون می‌توانند مدل‌های زبانی بزرگِ پردازش تصویر را روی دستگاه‌های بیشتری اجرا کنند، بی‌آنکه لازم باشد کد کاشی‌بندی اختصاصی بنویسند.

آیا این مقاله مفید بود؟
اشتراک‌گذاری

بیشتر بخوانید

Oossa · خبرنامه

هفتهٔ هوش مصنوعی، به زبان ساده

هر دوشنبه: خبرهایی که ارزش دانستن دارند، به زبان ساده. رایگان و بدون هرزنامه.