ایڈورسریل مشین لرننگ: معنی، مثالیں اور یہ کیسے کام کرتا ہے۔

ایڈورسریل مشین لرننگ مشین لرننگ کی ایک شاخ ہے جو مختلف حملوں کے لیے مشین لرننگ ماڈلز کی کمزوریوں پر توجہ مرکوز کرتی ہے۔

ایک مخالفانہ ان پٹ کوئی بھی مشین لرننگ ان پٹ ہے جس کا مقصد ماڈل کو غلط پیش گوئیاں کرنے یا غلط آؤٹ پٹ پیدا کرنے میں بے وقوف بنانا ہے۔

چونکہ مخالفانہ حملوں کے سنگین نتائج ہو سکتے ہیں، بشمول سیکورٹی، دھوکہ دہی اور صحت کی دیکھ بھال کے شعبوں میں، محققین حملے کے مختلف طریقوں کو دریافت کرنے کے ساتھ ساتھ ان کے خلاف دفاعی طریقہ کار تیار کرنے پر توجہ مرکوز کرتے ہیں۔

یہ پوسٹ مخالف مشین لرننگ کی دنیا کو دریافت کرتی ہے اور اس میں مثالیں، چیلنجز، اور AI ماڈلز پر حملہ کرنے اور ان کا دفاع کرنے کے طریقے شامل ہیں۔

ایڈورسریل مشین لرننگ کیا ہے؟

ایڈورسریل مشین لرننگ حملوں کی ایک کلاس کا مطالعہ کرتی ہے جس کا مقصد مخصوص کاموں پر درجہ بندی کرنے والوں کی کارکردگی کو کم کرنا ہے۔ دوسرے الفاظ میں، ان کا مقصد اے آئی مشین کو بے وقوف بنانا ہے۔

جیسے جیسے مصنوعی ذہانت اور مشین سیکھنے کی تکنیک کا استعمال زیادہ وسیع ہوتا جاتا ہے، مخالفانہ حملوں کا خطرہ بڑھ جاتا ہے۔ یہ مختلف AI سے چلنے والی ایپلی کیشنز کے لیے ایک اہم خطرہ پیش کرتا ہے، بشمول اسپام کا پتہ لگانے، ذاتی معاونین، کمپیوٹر ویژن، وغیرہ۔

مخالفانہ حملے کیسے کام کرتے ہیں۔

ایک مخالفانہ حملہ کوئی بھی ایسا عمل ہے جو مشین لرننگ ماڈل کو غلط اندازے لگانے کے لیے تیار کیا گیا ہے۔ یہ تربیت کے دوران، اور ساتھ ہی ساتھ ایک لائیو عملدرآمد کے ماحول میں بھی ہو سکتا ہے۔ دوسرے لفظوں میں، اگر آپ ماڈل کو بے وقوف بنانے یا سبوتاژ کرنے کا کوئی طریقہ نکال سکتے ہیں، تو آپ نے کامیابی کے ساتھ اس پر حملہ کر دیا ہے۔

ایک مخالف مثال کیا ہے؟

ایک مخالف مثال مشین لرننگ ماڈل کے لیے خاص طور پر ڈیزائن کیا گیا ان پٹ ہے جس کا مقصد ماڈل کو غلطی یا غلط آؤٹ پٹ پیدا کرنا ہے۔

آپ ان پٹ ڈیٹا میں معمولی تبدیلیاں کرکے ایک مخالف مثال تشکیل دے سکتے ہیں، جو اگرچہ انسانی آنکھ کو نظر نہیں آتا ہے، لیکن اکثر یہ ماڈل کی سمجھ کو تبدیل کرنے اور اسے غلط نتائج کی طرف لے جانے کے لیے کافی ہوتا ہے۔

مخالف مثالیں AI ماڈل کے تربیتی مراحل میں استعمال کی جاتی ہیں اور کی گئی ترمیمات عام طور پر مختلف اصلاحی تکنیکوں کا استعمال کرتے ہوئے تیار کی جاتی ہیں، جن میں گریڈینٹ پر مبنی طریقے جیسے فاسٹ گریڈینٹ سائن میتھڈ (FGSM) اٹیک شامل ہیں، جو ماڈل کی حساسیت کا فائدہ اٹھاتے ہیں۔ ان پٹ کی جگہ.

مخالف مثالوں کے ساتھ مقصد یہ ہے کہ ان پٹ ڈیٹا میں ہلکی سی گڑبڑیاں شامل کی جائیں جو شاید انسانی مبصرین کے لیے بمشکل نظر آئیں، لیکن پھر بھی ان پٹ کو غلط درجہ بندی کرنے میں ماڈل کی قیادت کرنے کے لیے کافی اہم ہیں۔

مخالفانہ حملے مختلف مشین لرننگ شعبوں میں ہو سکتے ہیں، بشمول تصویر کی شناخت اور قدرتی زبان کی پروسیسنگ۔

Adversarial ML کی درخواستیں۔

کسی بھی مصنوعی ذہانت کے پلیٹ فارم میں کمزوریوں کا پتہ لگانے اور ان سے فائدہ اٹھانے کی صلاحیت کے وسیع پیمانے پر استعمال ہوتے ہیں، کیونکہ حملہ آور صرف اس کی تخیل تک محدود ہوتا ہے۔ یہاں بہت سے طریقوں میں سے کچھ ہیں جن سے ایک ہیکر مخالف مشین سیکھنے کے طریقوں کا استعمال کرتے ہوئے سمجھوتہ شدہ AI مشین کا فائدہ اٹھا سکتا ہے۔

• تصویر اور ویڈیو کی شناخت: مواد میں اعتدال سے لے کر خود مختار گاڑیوں اور نگرانی کے نظام تک، بہت سی مصنوعی ذہانت کی ایپلی کیشنز تصویر اور ویڈیو کی شناخت کے الگورتھم پر انحصار کرتی ہیں۔ مشین کے ان پٹ میں ردوبدل کرکے اور اسے سامان کی غلط درجہ بندی کرنے پر مجبور کرکے، حملہ آور کسی بھی کنٹرول سسٹم کو اس کی آبجیکٹ کی شناخت کی صلاحیتوں پر بھروسہ کرنے سے بچ سکتا ہے۔ خود مختار گاڑیوں کے لیے، اس طرح کی ہیرا پھیری سڑک کے حادثات کا باعث بن سکتی ہے۔
• سپیم فلٹرنگ: اسپامرز اپنی اسپام ای میلز کو مختلف ڈھانچے، زیادہ اچھے الفاظ، کم برے الفاظ وغیرہ کے ساتھ بہتر بنا کر AI سپیم کا پتہ لگانے کے نظام کو کامیابی سے نظرانداز کر سکتے ہیں۔
• میلویئر کا پتہ لگانا: بدنیتی پر مبنی کمپیوٹر کوڈ تیار کرنا بھی اتنا ہی ممکن ہے جو میلویئر اسکینرز کے ذریعے پتہ لگانے سے بچ سکتا ہے۔
• قدرتی زبان عملیات: مخالف مشین لرننگ کا استعمال کرتے ہوئے متن کی غلط درجہ بندی کر کے، حملہ آور ٹیکسٹ پر مبنی سفارشی نظام، جعلی خبروں کا پتہ لگانے والے، جذبات کا پتہ لگانے والے، وغیرہ میں ہیرا پھیری کر سکتا ہے۔
• صحت کی دیکھ بھال: حملہ آور مریض کی تشخیص کو تبدیل کرنے یا حساس طبی ریکارڈ کو ظاہر کرنے کے لیے نظام کو دھوکہ دینے کے لیے میڈیکل ریکارڈ میں ہیرا پھیری کر سکتے ہیں۔
• مالی فراڈ کا پتہ لگانا: مالی فراڈ کا پتہ لگانے میں کام کرنے والے AI سسٹمز بھی مخالف مشین لرننگ حملوں سے خطرے میں ہیں۔ مثال کے طور پر، ایک حملہ آور مصنوعی ڈیٹا بنا سکتا ہے جو جائز لین دین کی نقل کرتا ہے، اس طرح، ماڈل کے ذریعے دھوکہ دہی کو ممکن بناتا ہے۔
• بائیو میٹرک سیکیورٹی سسٹمز: ہیرا پھیری والے ڈیٹا کو استعمال کرتے ہوئے، حملہ آور کسی نیٹ ورک یا پلیٹ فارم تک غیر مجاز رسائی حاصل کرنے کے لیے فنگر پرنٹ یا چہرے کا پتہ لگانے والے سیکیورٹی سسٹم کو شکست دے سکتا ہے۔
• مخالف دفاع: اگرچہ مذکورہ بالا استعمالات میں سے زیادہ تر نظام پر حملہ کرنے کے لیے ہیں، مخالف دفاع مشین کے حملہ آوروں کے خلاف مضبوط دفاعی نظام بنانے میں استعمال کے لیے مخالفانہ حملوں کا مطالعہ ہے۔

مخالف ایم ایل کے نتائج

مخالف مشین لرننگ کے ایسے نتائج ہوتے ہیں جو AI سسٹمز کی وشوسنییتا یا کارکردگی کو متاثر کر سکتے ہیں۔ یہاں اہم ہیں۔

• ایروڈس ٹرسٹ: اگر مخالفانہ حملے بڑھ جائیں اور ہاتھ سے نکل جائیں، تو یہ AI سسٹمز کے لیے اعتماد کو ختم کرنے کا سبب بنے گا، کیونکہ عوام کسی بھی مشین لرننگ پر مبنی نظام کو شک کی نگاہ سے دیکھیں گے۔
• اخلاقی مضمرات۔: صحت کی دیکھ بھال اور فوجداری انصاف جیسے ڈومینز پر مشین لرننگ سسٹم کا اطلاق اخلاقی سوالات کو جنم دیتا ہے، کیونکہ کوئی بھی سمجھوتہ شدہ AI نظام شدید ذاتی اور سماجی نقصان کا باعث بن سکتا ہے۔
• معاشی مضمرات: مخالفانہ حملے مالی نقصان، سیکورٹی کے بڑھتے ہوئے اخراجات، مالیاتی مارکیٹ میں ہیرا پھیری، اور یہاں تک کہ ساکھ کو نقصان پہنچا سکتے ہیں۔
• پیچیدگی میں اضافہ: مخالفانہ حملوں کا خطرہ تحقیقی کوششوں اور مشین لرننگ سسٹم کی مجموعی پیچیدگی کو بڑھاتا ہے۔
• ماڈل چوری: خود ایک AI ماڈل پر حملہ کیا جا سکتا ہے تاکہ اندرونی پیرامیٹرز یا اس کے فن تعمیر کے بارے میں معلومات کی چھان بین اور بازیافت کی جا سکے جسے سسٹم پر زیادہ سنگین حملے کے لیے استعمال کیا جا سکتا ہے۔

مخالفانہ حملوں کی اقسام

مخالف مشین لرننگ حملوں کی مختلف اقسام ہیں، اور وہ حملہ آور کے اہداف اور سسٹم تک اس کی کتنی رسائی کے لحاظ سے مختلف ہوتے ہیں۔ یہاں اہم اقسام ہیں۔

• چوری کے حملے: چوری کے حملوں میں، مخالفین AI سسٹم کو غلط درجہ بندی کرنے کے لیے ان پٹ میں ترمیم کرتے ہیں۔ اس میں ماڈل کو دھوکہ دینے کے لیے امیجز یا دیگر ڈیٹا ان پٹ کرنے کے لیے ناقابل فہم گڑبڑ (یا جان بوجھ کر شور) شامل کرنا شامل ہو سکتا ہے۔
• ڈیٹا پوائزننگ اٹیک: ڈیٹا پوائزننگ کے حملے اے آئی سسٹم کے تربیتی مرحلے کے دوران ہوتے ہیں۔ مشین کے تربیتی ڈیٹاسیٹ میں خراب (یا زہر آلود) ڈیٹا شامل کرنے سے، ماڈل اپنی پیشین گوئیوں میں کم درست ہو جاتا ہے اور اس لیے سمجھوتہ کیا جاتا ہے۔
• ماڈل نکالنے کے حملے: ماڈل الٹا حملوں میں، مخالفین تربیت یافتہ AI ماڈل سے حساس معلومات نکالنے کی صلاحیت سے فائدہ اٹھاتے ہیں۔ آدانوں میں ہیرا پھیری کرکے اور ماڈل کے جوابات کا مشاہدہ کرکے، وہ نجی ڈیٹا، جیسے کہ تصاویر یا متن کی تشکیل نو کرسکتے ہیں۔
• منتقلی کے حملے: اس سے مراد ایک مشین لرننگ سسٹم کے خلاف حملے کی صلاحیت ہے جو دوسرے مشین لرننگ سسٹم کے خلاف یکساں طور پر موثر ہے۔

مخالفانہ حملوں کے خلاف دفاع کیسے کریں۔

مختلف دفاعی میکانزم ہیں جو آپ اپنے AI ماڈل کو مخالفانہ حملوں سے بچانے کے لیے استعمال کر سکتے ہیں۔ یہاں سب سے زیادہ مقبول میں سے کچھ ہیں.

• مضبوط سسٹمز بنانا: اس میں ایسے AI ماڈلز کی ترقی شامل ہے جو ٹیسٹ اور تشخیصی رہنما خطوط شامل کرکے مخالفانہ حملوں کے خلاف زیادہ مزاحم ہوتے ہیں تاکہ ڈویلپرز کو سسٹم کی خامیوں کی نشاندہی کرنے میں مدد ملے جو مخالفانہ حملوں کا باعث بن سکتے ہیں۔ اس کے بعد وہ ایسے حملوں کے خلاف دفاع تیار کر سکتے ہیں۔
• ان پٹ کی توثیق: ایک اور طریقہ یہ ہے کہ پہلے سے معلوم کمزوریوں کے لیے ML ماڈل کے ان پٹ کو چیک کیا جائے۔ ماڈل کو آدانوں کو مسترد کرنے کے لیے ڈیزائن کیا جا سکتا ہے، مثال کے طور پر، جس میں ایسی تبدیلیاں ہوتی ہیں جو مشینوں کو غلط پیش گوئیاں کرنے کا سبب بنتی ہیں۔
• مخالفانہ تربیت: آپ اپنے سسٹم کے تربیتی ڈیٹا میں کچھ متضاد مثالیں بھی متعارف کروا سکتے ہیں تاکہ ماڈل کو مستقبل میں مخالف مثالوں کا پتہ لگانا اور مسترد کرنا سیکھ سکے۔
• قابل وضاحت AI۔: نظریاتی طور پر، بہتر ڈویلپرز اور صارفین یہ سمجھتے ہیں کہ ایک AI ماڈل کس طرح کام کرتا ہے، لوگوں کے لیے حملوں کے خلاف دفاع کرنا اتنا ہی آسان ہوگا۔ لہذا، مشین لرننگ اور AI ماڈل کی ترقی کے لیے قابل وضاحت AI (XAI) نقطہ نظر بہت سے مسائل کو حل کر سکتا ہے۔

نتیجہ

مخالف مشین سیکھنے کے حملے مصنوعی ذہانت کے نظام کی وشوسنییتا اور کارکردگی کے لیے ایک اہم خطرہ ہیں۔ تاہم، معروف حملوں کی مختلف اقسام کو سمجھ کر اور ان کی روک تھام کے لیے دفاعی حکمت عملیوں کو نافذ کرنے سے، ڈویلپرز اپنے AI ماڈلز کو مخالفانہ حملوں سے بہتر طور پر محفوظ رکھ سکتے ہیں۔

آخر میں، آپ کو سمجھنا چاہیے کہ AI اور مخالف مشین لرننگ کے شعبے اب بھی بڑھ رہے ہیں۔ لہٰذا، وہاں اب بھی دیگر مخالفانہ حملے کے طریقے موجود ہو سکتے ہیں جن کے بارے میں ابھی تک عوامی معلومات نہیں ہیں۔

حوالہ جات

1. https://en.wikipedia.org/wiki/Adversarial_machine_learning
2. https://www.csoonline.com/article/573031/adversarial-machine-learning-explained-how-attackers-disrupt-ai-and-ml-systems.html
3. https://medium.com/@durgeshpatel2372001/an-introduction-to-adversarial-machine-learning-820010645df9
4. https://insights.sei.cmu.edu/blog/the-challenge-of-adversarial-machine-learning/
5. https://viso.ai/deep-learning/adversarial-machine-learning/
6. https://www.toptal.com/machine-learning/adversarial-machine-learning-tutorial