مخاطر استخدام الذكاء الاصطناعي بعد التحديثات الاخيرة

بقدر ما يقدمه الذكاء الاصطناعي من فوائد كثيرة في المجالات المختلفة إلا أن له العديد من المخاطر الكبيرة التي يجب الحذر منها، خصوصًا بعد التحديثات الاخيرة .

أظهرت الدراسات الحديثة أن واجهة برمجة التطبيقات الصوتية لمساعد (ChatGPT-4o) من شركة OpenAI قد يستغلها مجرمي الإنترنت لتنفيذ العمليات الاحتيالية وسرقة الاموال، ولفتت الانتباه إلى أن معدلات نجاح هذه العمليات اصبحت تتراوح بين المنخفضة الي المتوسطة.

ويعتبر نموذج (ChatGPT-4o) هو أحدث نماذج الذكاء الاصطناعي الذي اصدرته شركة OpenAI، ويتميز هذا النموذج بقدرته الفائقة على استيعاب النصوص والأصوات والمرئيات وإخراجها، للحد من إساءة الاستخدام، حيث أدمجت شركة OpenAI بعض آليات الأمان التي تهدف إلى اكتشاف المحتوى الضار، ومنع تكرار الأصوات الغير مُصرّح بها.

مع ارتفاع معدل انتشار تقنيات التزييف الصوتي وأدوات تحويل النص إلى صوت ازدادت مشكلة الاحتيال الصوتي التي تقدر خسائرها بالملايين، ونشر بعض الباحثون من جامعة إلينوي ورقة بحثية توضح أن الأدوات التقنية الحديثة التي تمت اتاحتها للجمهور تفتقر إلى آليات الحماية الكافية من إساءة الاستخدام في عمليات الاحتيال.

كما استعرضت الدراسة ايضا أنواع متعددة من عمليات الاحتيال، منها عمليات التحويل المصرفي، وسرقة بطاقات الهدايا، وتحويلات العملات الرقمية، وسرقة بيانات حسابات التواصل الاجتماعي والبريد الإلكتروني.

ويتم استخدام هذه العمليات الاحتيالية بأدوات مبرمجة تعتمد على الصوت في برنامج (ChatGPT-4o) للتنقل بين صفحات الويب، وإدخال جميع البيانات، وإدارة الأكواد الخاصة بالمصادقات الثنائية، واتباع كافة إرشادات الاحتيال، ويرفض نموذج (GPT-4o) التعامل مع البيانات الحساسة، إلا أن بعض الباحثين استطاعوا تجاوز مجموعة من القيود باستخدام التقنيات البسيطة لتحفيز النموذج على الاستجابة.

ولإثبات فاعليات عمليات الاحتيال، حاكى بعض الباحثون أدوار الضحايا في التجارب، واستخدموا مواقع عديدة مثل "بنك أميركا" للتحقق نجاح عمليات التحويل المصرفي، ولكنهم لم يقيسوا مدى قدرة النموذج  (GPT-4o) على الإقناع.

وأظهرت التجارب الحديثة أن معدلات النجاح تتراوح بين (20% و 60%) ، مع احتياج كل محاولة منهم لما يصل إلى 26 خطوة متتالية عن طريق المتصفح، وقد استغرقت ثلاثة دقائق تقريبا في الحالات المعقدة، كما نجحت ايضا عمليات سرقة بيانات حسابات Gmail بنسبة 60%، في حين  وصلت نسبة نجاح عمليات تحويلات العملات الرقمية وسرقة بيانات إنستغرام  الي 40%.

أما فيما يخص التكاليف، فإن تكلفة تنفيذ العمليات الاحتيالية تعتبر منخفضة، حيث بلغت تكلفة كل عملية ناجحة 75 سنت أميركي وبلغت تكلفة عمليات التحويل المصرفي المعقدة حوالي 2.51 دولار فقط.

OpenAI 

بخصوص شركة OpenAI نشر موقع (Bleeping Computer) التقني، ان الشركة اكدت أن نموذجها الأحدث "o1-preview" يتمتع بقدرات عالية جدا في مقاومة محاولات الاحتيال، وتحسين عمليات الأمان وذلك مقارنة بالنماذج السابقة، فضلاً عما حققه من تقييم عالي في اختبارات الأمان بنسبة 93%، مقارنة  بنسبة 71% التي حققها نموذج GPT-4o.

أوضحت أن الأبحاث الأكاديمية، التي قدمتها جامعة إلينوي، تساهم في تحسين ChatGPT لمواجهة الاستخدامات الضارة،  وختمت ذلك مؤكدة التزامها بالعمل الجاد علي تعزيز آليات الأمان في النماذج القادمة، وتقيّد توليد الأصوات في نموذج (GPT-4o) بمجموعة من الأصوات المصرح بها لتجنب كافة عمليات التزييف الصوتي.