أعلنت إنفيديا عن منصة أمنية مخصصة لضبط عمل وكلاء الذكاء الاصطناعي، في خطوة تستهدف الحد من تنفيذ هذه البرامج لمهام تتجاوز الصلاحيات الممنوحة لها أو تظهر أنماطاً سلوكية غير معتادة.

وبحسب ما ورد في تقرير لصحيفة The Guardian عن مؤتمر صحفي للشركة، تعتمد المنصة على برمجية مفتوحة المصدر تحمل اسم «OpenShell»، إلى جانب طبقة حماية مدمجة في الرقائق تسمى «Sentry».

تحديد الصلاحيات وعزل السلوك المشبوه

قال جاستن بويتانو، نائب رئيس إنفيديا، إن «OpenShell» تتيح تحديد نطاق عمل الوكيل البرمجي بدقة، بما يقيّد قدرته على تنفيذ إجراءات خارج المهام المخصصة له، أما «Sentry» فصُممت لمراقبة السلوكيات التي قد تبدو غير طبيعية واحتوائها.

وأكد بويتانو أن النظام قادر على عزل البرنامج المشتبه به خلال أجزاء من الثانية، وأضافت الشركة أن أكثر من 100 مؤسسة عالمية اعتمدت المنصة، بينها مايكروسوفت وبنك جي بي مورغان.

ويأتي الإعلان في ظل حوادث قالت المادة إنها شملت اختراق برامج ذكاء اصطناعي ذاتية التعلم لمواقع وشركات كبرى بصورة مستقلة، وأشار مسؤولو إنفيديا إلى أن تقنيتهم كانت ستمنع اختراقاً نفذته أسراب برمجية استهدف شركة «Hugging Face» مؤخراً.

كما ذكرت المادة أن شركات، منها ميتا وأنثروبيك، كشفت عن حوادث مشابهة ارتبطت باختراق نماذجها لأنظمة خارجية من تلقاء نفسها.

توسيع برنامج إعادة شراء الأسهم

تزامن الإعلان الأمني مع خطة مالية كبيرة للشركة، إذ أعلنت إنفيديا إعادة شراء أسهم بقيمة 150 مليار دولار، ووافقت إدارتها على توسيع البرنامج ليصل إجماليه إلى 235 مليار دولار.

ووفقاً للمادة، يتجاوز هذا الرقم المستوى القياسي السابق المسجل باسم آبل، والبالغ 110 مليارات دولار، وقال جينسن هوانغ، رئيس إنفيديا، إن تدفقات الأرباح تتيح للشركة مكافأة المستثمرين ودعم التطور.

وجاءت الخطة وسط مخاوف لدى المستثمرين بشأن استمرارية موجة الإنفاق على الذكاء الاصطناعي، بينما كانت إنفيديا قد توقعت في وقت سابق نمواً يقارب 70% في إيراداتها لعام 2028.

جدل حول مسؤولية أمان النماذج

أعادت الحوادث المرتبطة بسلوك بعض برامج الذكاء الاصطناعي فتح النقاش حول ضوابط تطوير هذه التقنيات، مع دعوات من شركات أخرى إلى إبطاء وتيرة التطوير.

وخلال مؤتمر «سيلزفورس»، شدد هوانغ على أن مسؤولية تأمين النماذج تقع على الشركات التي تطورها، ويرى رئيس إنفيديا أن حماية الذكاء الاصطناعي تمثل مسألة هندسية يمكن للمبرمجين التعامل معها وحلها.