أعلنت Google عن واجهة LiteRT Tensor، وهي طبقة خفيفة بلغة C++ لبناء نماذج ذكاء اصطناعي تعمل على الأجهزة. وتمنح المطورين تحكماً كاملاً في مخطط العمليات الحسابية، مع الحفاظ على إمكانية تشغيله على وحدات المعالجة المركزية والرسومية (عبر ML Drift) ووحدات NPU. واستُعرضت الواجهة بتشغيل نموذج Segment Anything Model 2 من Meta بالكامل داخل متصفح عبر WebGPU، محققاً أكثر من 30 إطاراً في الثانية بدقة 512×512. ويمكن للمطورين أيضاً تحميل الأوزان مباشرةً من نقاط الحفظ، وإبقاء البيانات على وحدات التسريع باستخدام مخازن مؤقتة لا تتطلب نسخ البيانات.
لماذا يهم
يمكن لمطوري التطبيقات توفير ميزات ذكاء اصطناعي أسرع وأقل تأخراً على الهواتف والمتصفحات، من دون الحاجة إلى صيانة شيفرة منفصلة لكل شريحة.