التعلم الآلي التنافسي: المعنى والأمثلة وكيفية عمله

التعلم الآلي العدائي هو فرع من فروع التعلم الآلي الذي يركز على نقاط الضعف في نماذج التعلم الآلي للهجمات المختلفة.

المدخلات المعادية هي أي مدخلات للتعلم الآلي تهدف إلى خداع النموذج ليقوم بتنبؤات خاطئة أو إنتاج مخرجات خاطئة.

وبما أن الهجمات المعادية يمكن أن يكون لها عواقب وخيمة، بما في ذلك في قطاعات الأمن والاحتيال والرعاية الصحية، فإن الباحثين يركزون على اكتشاف أساليب هجوم مختلفة، فضلاً عن تطوير آليات دفاع ضدها.

يستكشف هذا المنشور عالم التعلم الآلي العدائي ويتضمن أمثلة وتحديات وطرق مهاجمة نماذج الذكاء الاصطناعي والدفاع عنها.

ما هو التعلم الآلي التنافسي؟

تدرس تقنية التعلم الآلي العدائي فئة من الهجمات التي تهدف إلى تقليل أداء المصنفات في مهام محددة. بعبارة أخرى، تهدف هذه الهجمات إلى خداع آلة الذكاء الاصطناعي.

مع انتشار استخدام الذكاء الاصطناعي وتقنيات التعلم الآلي، يزداد خطر الهجمات المعادية. ويمثل هذا تهديدًا كبيرًا للعديد من التطبيقات التي تعمل بالذكاء الاصطناعي، بما في ذلك اكتشاف البريد العشوائي، والمساعدين الشخصيين، والرؤية الحاسوبية، وما إلى ذلك.

كيف تعمل الهجمات المعادية

الهجوم المعادي هو أي عملية مصممة لخداع نموذج التعلم الآلي للتسبب في حدوث تنبؤات خاطئة. يمكن أن يحدث هذا أثناء التدريب، وكذلك في بيئة التنفيذ المباشر. بعبارة أخرى، إذا تمكنت من اكتشاف طريقة لخداع النموذج أو تخريبه، فهذا يعني أنك هاجمته بنجاح.

ما هو المثال التنافسي؟

المثال المعادي هو أي إدخال مصمم خصيصًا لنموذج التعلم الآلي والذي يهدف إلى جعل النموذج يرتكب خطأ أو ينتج مخرجات غير صحيحة.

يمكنك إنشاء مثال معادٍ من خلال إجراء تغييرات طفيفة على بيانات الإدخال، والتي على الرغم من أنها قد لا تكون مرئية للعين البشرية، إلا أنها غالبًا ما تكون كافية لتغيير فهم النموذج وتؤدي به إلى إنتاج مخرجات خاطئة.

يتم استخدام الأمثلة المعادية في مراحل تدريب نموذج الذكاء الاصطناعي ويتم إنشاء التعديلات التي تم إجراؤها عادةً باستخدام تقنيات تحسين مختلفة، بما في ذلك الأساليب القائمة على التدرج مثل هجوم طريقة إشارة التدرج السريع (FGSM)، والذي يستغل حساسية النموذج للتغييرات في مساحة الإدخال.

الهدف من الأمثلة المعادية هو إضافة اضطرابات طفيفة إلى بيانات الإدخال التي قد تكون بالكاد مرئية للمراقبين البشريين، ولكنها لا تزال كبيرة بما يكفي لدفع النموذج إلى تصنيف خاطئ للمدخلات.

يمكن أن تحدث الهجمات المعادية في قطاعات مختلفة للتعلم الآلي، بما في ذلك التعرف على الصور ومعالجة اللغة الطبيعية.

تطبيقات التعلم الآلي التنافسي

للقدرة على اكتشاف نقاط الضعف في أي منصة ذكاء اصطناعي واستغلالها استخدامات واسعة، إذ لا يحدّ المهاجم سوى خياله. إليكم بعض الطرق العديدة التي يمكن للمخترق من خلالها استغلال جهاز ذكاء اصطناعي مخترق باستخدام أساليب التعلم الآلي العدائية.

• التعرف على الصور والفيديو:من تعديل المحتوى إلى المركبات ذاتية القيادة وأنظمة المراقبة، تعتمد العديد من تطبيقات الذكاء الاصطناعي على خوارزميات التعرف على الصور والفيديو. من خلال تغيير مدخلات الآلة وإجبارها على تصنيف الأشياء بشكل خاطئ، يمكن للمهاجم التهرب من أي أنظمة تحكم تعتمد على قدرات التعرف على الأشياء. بالنسبة للمركبات ذاتية القيادة، يمكن أن يؤدي مثل هذا التلاعب إلى حوادث الطرق.
• تصفية البريد العشوائي:يمكن لمرسلي البريد العشوائي تجاوز أنظمة اكتشاف البريد العشوائي بالذكاء الاصطناعي بنجاح من خلال تحسين رسائل البريد العشوائي الخاصة بهم باستخدام هياكل مختلفة، ومزيد من الكلمات الجيدة، وعدد أقل من الكلمات السيئة، وما إلى ذلك.
• كشف البرامج الضارة:من الممكن أيضًا إنشاء أكواد كمبيوتر ضارة يمكنها التهرب من اكتشافها بواسطة أجهزة الكشف عن البرامج الضارة.
• معالجة اللغات الطبيعية:من خلال تصنيف النص بشكل خاطئ باستخدام التعلم الآلي العدائي، يمكن للمهاجم التلاعب بأنظمة التوصية القائمة على النصوص، وأجهزة كشف الأخبار المزيفة، وأجهزة كشف المشاعر، وما إلى ذلك.
• قطاع الرعاية الصحية:يمكن للمهاجمين التلاعب بالسجلات الطبية إما لتغيير تشخيص المريض أو خداع النظام للكشف عن السجلات الطبية الحساسة.
• كشف الاحتيال المالي:إن أنظمة الذكاء الاصطناعي المستخدمة في الكشف عن الاحتيال المالي معرضة أيضًا لخطر هجمات التعلم الآلي المعادية. على سبيل المثال، يمكن للمهاجم إنشاء بيانات اصطناعية تحاكي المعاملات المشروعة، مما يجعل من الممكن إجراء احتيال دون أن يكتشفه النموذج.
• أنظمة الأمن البيومترية:من خلال استخدام بيانات تم التلاعب بها، يمكن للمهاجم التغلب على أنظمة أمان التعرف على بصمات الأصابع أو الوجه للحصول على وصول غير مصرح به إلى شبكة أو منصة.
• الدفاع المعادي: في حين أن معظم الاستخدامات السابقة هي لمهاجمة نظام، فإن الدفاع المعادي هو دراسة الهجمات المعادية لاستخدامها في إنشاء أنظمة دفاع قوية ضد مهاجمي الآلة.

عواقب التعلم الآلي العدائي

إن التعلم الآلي العدائي له عواقب يمكن أن تؤثر على موثوقية أو أداء أنظمة الذكاء الاصطناعي. وفيما يلي أهم هذه العواقب.

• يؤدي إلى تآكل الثقة:إذا نمت الهجمات المعادية وخرجت عن السيطرة، فسوف يتسبب ذلك في تآكل الثقة في أنظمة الذكاء الاصطناعي، حيث سينظر الجمهور إلى أي نظام يعتمد على التعلم الآلي بمستوى من الشك.
• الآثار الأخلاقية:إن تطبيق أنظمة التعلم الآلي في مجالات مثل الرعاية الصحية والعدالة الجنائية يثير تساؤلات أخلاقية، حيث أن أي نظام ذكاء اصطناعي معرض للخطر يمكن أن يسبب أضرارًا شخصية واجتماعية شديدة.
• الآثار الاقتصادية:يمكن أن تؤدي الهجمات المعادية إلى خسارة مالية، وزيادة تكاليف الأمن، والتلاعب بالسوق المالية، وحتى الإضرار بالسمعة.
• زيادة التعقيد:إن خطر الهجمات المعادية يزيد من جهود البحث والتعقيد العام لأنظمة التعلم الآلي.
• سرقة الموديل:يمكن مهاجمة نموذج الذكاء الاصطناعي بحد ذاته لاستكشاف واسترجاع المعلمات الداخلية أو المعلومات حول بنيته والتي يمكن استخدامها لشن هجوم أكثر خطورة على النظام.

أنواع الهجمات المعادية

هناك أنواع مختلفة من هجمات التعلم الآلي المعادية، وهي تختلف حسب أهداف المهاجم ومدى قدرته على الوصول إلى النظام. وفيما يلي الأنواع الرئيسية.

• هجمات التهرب:في هجمات التهرب، يقوم الخصوم بتعديل المدخلات لخداع نظام الذكاء الاصطناعي وإجباره على تصنيفها بشكل خاطئ. وقد يتضمن هذا إضافة اضطرابات غير محسوسة (أو ضوضاء متعمدة) إلى صور الإدخال أو البيانات الأخرى لخداع النموذج.
• هجمات تسميم البيانات:تحدث هجمات تسميم البيانات أثناء مرحلة تدريب نظام الذكاء الاصطناعي. من خلال إضافة بيانات سيئة (أو مسمومة) إلى مجموعة بيانات تدريب الجهاز، يصبح النموذج أقل دقة في تنبؤاته، وبالتالي يتعرض للخطر.
• هجمات استخراج النموذج:في هجمات عكس النموذج، يستغل الخصوم القدرة على استخراج معلومات حساسة من نموذج الذكاء الاصطناعي المدرب. ومن خلال التلاعب بالمدخلات ومراقبة استجابات النموذج، يمكنهم إعادة بناء البيانات الخاصة، مثل الصور أو النصوص.
• هجمات النقل:يشير هذا إلى قدرة الهجوم على نظام تعلُّم آلي واحد على أن يكون بنفس الفعالية ضد نظام تعلُّم آلي آخر.

كيفية الدفاع ضد الهجمات المعادية

توجد آليات دفاع مختلفة يمكنك استخدامها لحماية نموذج الذكاء الاصطناعي الخاص بك ضد الهجمات المعادية. وفيما يلي بعض أكثرها شيوعًا.

• إنشاء أنظمة قوية:يتضمن هذا تطوير نماذج الذكاء الاصطناعي التي تتمتع بمقاومة أكبر للهجمات المعادية من خلال تضمين الاختبارات وإرشادات التقييم لمساعدة المطورين على تحديد عيوب النظام التي قد تؤدي إلى هجمات معادية. ومن ثم يمكنهم تطوير دفاعات ضد مثل هذه الهجمات.
• التحقق من صحة المدخلات:هناك نهج آخر يتلخص في فحص المدخلات في نموذج التعلم الآلي بحثًا عن نقاط ضعف معروفة بالفعل. يمكن تصميم النموذج لرفض المدخلات، على سبيل المثال، التي تحتوي على تعديلات معروفة بأنها تتسبب في قيام الآلات بتنبؤات خاطئة.
• تدريب الخصومة:يمكنك أيضًا إدخال قدر معين من الأمثلة المعادية في بيانات تدريب نظامك لمساعدة النموذج على تعلم كيفية اكتشاف الأمثلة المعادية ورفضها في المستقبل.
• شرح منظمة العفو الدوليةمن الناحية النظرية، كلما كان المطورون والمستخدمون أكثر فهمًا لكيفية عمل نموذج الذكاء الاصطناعي في العمق، كان من الأسهل على الأشخاص التوصل إلى دفاعات ضد الهجمات. لذلك، يمكن لنهج الذكاء الاصطناعي القابل للتفسير (XAI) في التعلم الآلي وتطوير نموذج الذكاء الاصطناعي حل الكثير من المشاكل.

خاتمة

تشكل هجمات التعلم الآلي المعادية تهديدًا كبيرًا لموثوقية وأداء أنظمة الذكاء الاصطناعي. ومع ذلك، من خلال فهم الأنواع المختلفة من الهجمات المعروفة وتنفيذ استراتيجيات الدفاع لمنعها، يمكن للمطورين حماية نماذج الذكاء الاصطناعي الخاصة بهم بشكل أفضل من الهجمات المعادية.

أخيرًا، يجب أن تدرك أن مجالات الذكاء الاصطناعي والتعلم الآلي العدائي لا تزال في طور النمو. لذا، قد تكون هناك طرق هجومية أخرى لم تصبح معروفة للعامة بعد.

ممارستنا

1. https://en.wikipedia.org/wiki/Adversarial_machine_learning
2. https://www.csoonline.com/article/573031/adversarial-machine-learning-explained-how-attackers-disrupt-ai-and-ml-systems.html
3. https://medium.com/@durgeshpatel2372001/an-introduction-to-adversarial-machine-learning-820010645df9
4. https://insights.sei.cmu.edu/blog/the-challenge-of-adversarial-machine-learning/
5. https://viso.ai/deep-learning/adversarial-machine-learning/
6. https://www.toptal.com/machine-learning/adversarial-machine-learning-tutorial