Llama for Windows تتيح تشغيل نماذج الذكاء الاصطناعي محليا على ويندوز 11

أعلنت Hugging Face وفريق تطوير llama.cpp إطلاق أداة Llama for Windows، التي تتيح لمستخدمي أجهزة ويندوز 11 تنزيل نماذج الذكاء الاصطناعي وتشغيلها مباشرة على الكمبيوتر، وتستهدف الأداة المستخدمين الراغبين في تقليل الاعتماد على الخدمات السحابية، إلى جانب المطورين الذين يريدون استخدام نماذج محلية ضمن تطبيقاتهم.

يعتمد كثير من المستخدمين حاليا على خدمات عبر الإنترنت، مثل ChatGPT وCopilot وGemini، لإنجاز مهام يومية، لكن تشغيل النماذج محليا يظل خيارا لمن يهتمون بالخصوصية أو يفضلون عدم الارتباط بخدمات سحابية مدفوعة، مع بقاء جودة التجربة مرتبطة بمواصفات الجهاز والنموذج المستخدم.

واجهة مبسطة لتنزيل النماذج وتشغيلها

تعمل Llama for Windows كتطبيق خفيف يظهر في منطقة الإشعارات بشريط مهام ويندوز، بدلا من الاعتماد على إعدادات معقدة أو التعامل المباشر مع سطر الأوامر، ويختلف هذا النهج عن بعض الحلول الأخرى، مثل LM Studio، إذ يركز على إتاحة الوصول السريع إلى النماذج من خلال واجهة مبسطة.

وتستند الأداة إلى إطار WinUI 3 من مايكروسوفت، بينما يتولى محرك llama.cpp تشغيل النماذج محليا على الجهاز، وبعد تثبيت التطبيق، يستطيع المستخدم اختيار نماذج مقترحة من منصة Hugging Face وتنزيلها بنقرة واحدة، ثم استخدامها عبر واجهة محادثة تعمل في متصفح الويب.

وقبل تنزيل النموذج، تعرض الأداة بيانات تقنية تشمل حجمه وعدد معلماته، إضافة إلى ما إذا كان يدعم معالجة الصور، وتساعد هذه التفاصيل في اختيار نموذج يتناسب مع قدرات الجهاز والمهام المطلوبة.

واجهة API للتطبيقات المتوافقة مع OpenAI

تدعم Llama for Windows واجهة برمجة تطبيقات متوافقة مع واجهات OpenAI، بما يسمح للتطبيقات الأخرى بالاستفادة من النماذج المثبتة محليا بدلا من الاتصال بخدمات سحابية مدفوعة.

وبإمكان المطورين ربط التطبيقات المتوافقة بالخادم المحلي للأداة، بما في ذلك أدوات البرمجة المدعومة بالذكاء الاصطناعي ومحررات الأكواد وتطبيقات المحادثة الذكية، ويعني ذلك تنفيذ مهام عبر نماذج تعمل على الكمبيوتر نفسه، دون الحاجة بالضرورة إلى إرسال الطلبات إلى خدمة خارجية.

ويساعد هذا النموذج في تقليص الاعتماد على واجهات البرمجة السحابية التي قد تفرض رسوما بحسب حجم الاستخدام، كما يمكن أن يعزز الخصوصية عبر معالجة الطلبات داخل الجهاز، مع الإشارة إلى أن مستوى الخصوصية الفعلي يرتبط أيضا بإعدادات التطبيق والخدمات الأخرى التي قد يستخدمها الشخص.

دعم x64 وARM64 وتحسينات موجهة لأجهزة إنفيديا

تدعم الأداة أجهزة الكمبيوتر التي تعمل بنظام Windows 11 على معماريتي x64 وARM64. ويركز الإعلان كذلك على تحسينات لمنصة NVIDIA RTX Spark، التي طورت بالتعاون مع إنفيديا، بهدف الاستفادة من قدرات الأجهزة المدعومة لتشغيل نماذج الذكاء الاصطناعي محليا.

ورغم إتاحة دعم ويندوز على أجهزة Arm، فإن المصدر أشار إلى أن توسيع التحسينات مستقبلا لتشمل معالجات كوالكوم Snapdragon X Elite وغيرها من معالجات Snapdragon X قد يكون مهما للاستفادة من وحدات المعالجة العصبية المخصصة، أو NPU، في هذه الأجهزة.

ولا يعني التشغيل المحلي بالضرورة الوصول إلى مستوى أداء أكبر النماذج السحابية؛ إذ تتأثر التجربة بحجم النموذج، وسعة الذاكرة العشوائية، وقدرات المعالجة والرسوميات في الكمبيوتر، وتقدم Llama for Windows، من خلال تنزيل النماذج بسهولة وواجهة المحادثة ودعم API المتوافق مع OpenAI، خيارا لتشغيل الذكاء الاصطناعي محليا للمستخدمين والمطورين.