كيف يمكن أن نخدع الذكاء الاصطناعي؟

تُستعمل الشبكات العصبية التي تدار عن طريق الخوارزميات منذ عقد من الزمن في الترجمة الآلية ومحركات البحث على الإنترنت، لكن يبدو أنه يمكن خداع النظام من خلال تشويش بسيط قد لا تراه العين المجردة.
فقد عرض موقع صحيفة لوموند الفرنسية فيديو أُعد بالتعاون مع تلفزيون ينيفيرسيانس، أوضح فيه عمر فوزي -الأستاذ المحاضر في مختبر المعلوماتية في المدرسة العليا للتكوين بليون- طبيعة هذه الاختلالات التي يمكن تجنبها بفضل الفهم الأفضل لأداء الشبكة العصبية.

وقال فوزي إنه لوحظ أن وضع بكسل أو أكثر غير مرئي بالعين المجردة على صورة قط -مثلا- يمكن أن يخدع هذه الشبكات فتراه كلبا، كما أظهرت دراسة أجريت عام 2014.

وللتعمّق أكثر في عمل هذه الشبكات، أجرى فوزي مع مجموعة من الباحثين دراسةً عام 2016 لإيجاد طريقة تسمح بحماية هذه الشبكات من التعرض للتشويش والخداع، وفي الوقت نفسه تسمح لنا بإصدار شهادة أمان لها من الاختراق.

وقامت هذه الدراسة بتصور نموذج واحد وفريد للتشويش “يونيفرسال أدفرسيال برترنيشن” معد خصيصا لمهاجمة شبكة عصبية معروفة المواصفات التقنية، وقد نجح هذا النموذج في اختراق تلك الشبكة أثناء التجربة.

وفي عام 2017 قام الفريق بتجربة مماثلة على سيارات ذاتية التحكم، وذلك بوضع بكسلات على إشارات المرور، مما أثر على أجهزة التحكم التي تديرها شبكة عصبية مدمجة معروفة المواصفات التقنية، مع ملاحظة أن الشبكات الفعلية التي تعمل بها السيارات ذاتية التحكم ليست مفتوحة، وبالتالي فإن ما قاموا به مجرد تجربة افتراضية.

أما الآن، فالمشكلة التي يطرحها الفريق فهي معرفة طريقة عمل هذه الشبكات التي لا تزال غير معروفة بدقة، وهل بالإمكان التنبؤ بنقاط الضعف الأمنية في هذه الشبكات لإيجاد حلول وقائية لتأمينها؟