Adversarial Machine Learning: Značenje, primjeri i kako funkcionira

Adversarial machine learning grana je strojnog učenja koja se fokusira na ranjivosti modela strojnog učenja na razne napade.

Suparnički unos je svaki unos strojnog učenja koji ima za cilj prevariti model da napravi pogrešna predviđanja ili proizvede pogrešne rezultate.

Budući da kontradiktorni napadi mogu imati ozbiljne posljedice, uključujući sektor sigurnosti, prijevare i zdravstva, istraživači se usredotočuju na otkrivanje različitih metoda napada, kao i na razvoj obrambenih mehanizama protiv njih.

Ovaj post istražuje suparnički svijet strojnog učenja i uključuje primjere, izazove i načine napada i obrane AI modela.

Što je kontradiktorno strojno učenje?

Suparničko strojno učenje proučava klasu napada koji su usmjereni na smanjenje izvedbe klasifikatora na određenim zadacima. Drugim riječima, cilj im je prevariti AI stroj.

Kako upotreba umjetne inteligencije i tehnika strojnog učenja postaje sve raširenija, rizik od suparničkih napada raste. To predstavlja značajnu prijetnju raznim aplikacijama koje pokreće AI, uključujući otkrivanje neželjene pošte, osobne asistente, računalni vid itd.

Kako funkcioniraju kontradiktorni napadi

Suparnički napad je bilo koji proces osmišljen da prevari model strojnog učenja da izazove pogrešna predviđanja. To se može dogoditi tijekom treninga, kao iu okruženju izvedbe uživo. Drugim riječima, ako možete smisliti način da prevarite ili sabotirate model, onda ste ga uspješno napali.

Što je kontradiktorni primjer?

Suparnički primjer je bilo koji posebno dizajnirani unos za model strojnog učenja koji ima za cilj navesti model da napravi pogrešku ili proizvede netočan izlaz.

Možete stvoriti kontradiktorni primjer unošenjem neznatnih promjena u ulazne podatke, koje iako možda nisu vidljive ljudskom oku, često su dovoljne da promijene razumijevanje modela i dovedu ga do pogrešnih rezultata.

Suparnički primjeri koriste se u fazama obuke modela umjetne inteligencije, a napravljene izmjene obično se generiraju pomoću različitih tehnika optimizacije, uključujući metode temeljene na gradijentu kao što je Fast Gradient Sign Method (FGSM) napad, koji iskorištava osjetljivost modela na promjene u ulazni prostor.

Cilj kontradiktornih primjera je dodati male poremećaje ulaznim podacima koji mogu biti jedva vidljivi ljudskim promatračima, ali su ipak dovoljno značajni da navedu model na pogrešnu klasifikaciju ulaza.

Suparnički napadi mogu se dogoditi u različitim sektorima strojnog učenja, uključujući prepoznavanje slika i obradu prirodnog jezika.

Primjene kontradiktornog ML-a

Sposobnost otkrivanja i iskorištavanja slabosti u bilo kojoj platformi umjetne inteligencije ima širok raspon namjena, budući da je napadač ograničen samo svojom maštom. Ovdje su neki od mnogih načina na koje haker može iskoristiti kompromitirani AI stroj koristeći suparničke metode strojnog učenja.

• Prepoznavanje slika i videa: Od moderiranja sadržaja do autonomnih vozila i nadzornih sustava, mnoge aplikacije umjetne inteligencije oslanjaju se na algoritme za prepoznavanje slike i videa. Mijenjajući ulaz stroja i tjerajući ga da krivo klasificira stvari, napadač može izbjeći bilo koji kontrolni sustav koji se oslanja na njegove sposobnosti prepoznavanja objekata. Za autonomna vozila takva manipulacija može dovesti do prometnih nesreća.
• Filtriranje neželjene pošte: Pošiljatelji neželjene pošte mogu uspješno zaobići sustave za otkrivanje neželjene pošte putem umjetne inteligencije optimiziranjem svoje neželjene e-pošte različitim strukturama, više dobrih riječi, manje loših riječi i tako dalje.
• Otkrivanje zlonamjernog softvera: Jednako je moguće izraditi zlonamjerni računalni kod koji može izbjeći otkrivanje skenera zlonamjernog softvera.
• Obrada prirodnog jezika: Pogrešnim klasificiranjem teksta korištenjem kontradiktornog strojnog učenja, napadač može manipulirati sustavima preporuka temeljenim na tekstu, detektorima lažnih vijesti, detektorima raspoloženja i tako dalje.
• Zdravstvo: Napadači mogu manipulirati medicinskom dokumentacijom kako bi izmijenili dijagnozu pacijenta ili prevarili sustav da otkrije osjetljivu medicinsku dokumentaciju.
• Otkrivanje financijskih prijevara: Sustavi umjetne inteligencije korišteni u otkrivanju financijskih prijevara također su izloženi riziku od kontradiktornih napada strojnog učenja. Na primjer, napadač može stvoriti sintetičke podatke koji oponašaju legitimne transakcije, čime se omogućuje provođenje prijevare koje model ne otkrije.
• Biometrijski sigurnosni sustavi: Korištenjem manipuliranih podataka, napadač može pobijediti sigurnosne sustave za otkrivanje otiska prsta ili lica kako bi dobio neovlašteni pristup mreži ili platformi.
• Suparnička obrana: Dok je većina prethodno navedenih upotreba za napad na sustav, kontradiktorna obrana je proučavanje kontradiktornih napada za korištenje u stvaranju robusnih obrambenih sustava protiv napadača na stroj.

Posljedice kontradiktornog pranja novca

Suparničko strojno učenje ima posljedice koje mogu utjecati na pouzdanost ili performanse AI sustava. Evo onih glavnih.

• Narušava povjerenje: Ako protivnički napadi porastu i izmaknu kontroli, to će uzrokovati eroziju povjerenja za AI sustave, budući da će javnost svaki sustav temeljen na strojnom učenju gledati s određenom razinom sumnje.
• Etičke implikacije: Primjena sustava strojnog učenja u domenama kao što su zdravstvo i kazneno pravosuđe postavlja etička pitanja jer svaki kompromitirani sustav umjetne inteligencije može prouzročiti ozbiljnu osobnu i društvenu štetu.
• Ekonomske implikacije: Suparnički napadi mogu dovesti do financijskog gubitka, povećanih sigurnosnih troškova, manipulacije financijskim tržištem, pa čak i štete ugledu.
• Povećana složenost: Prijetnja kontradiktornih napada povećava napor istraživanja i ukupnu složenost sustava strojnog učenja.
• Krađa modela: Sam model umjetne inteligencije može biti napadnut kako bi se istražili i dohvatili interni parametri ili informacije o njegovoj arhitekturi koji se mogu upotrijebiti za ozbiljniji napad na sustav.

Vrste kontradiktornih napada

Postoje različite vrste kontradiktornih napada strojnog učenja, a razlikuju se ovisno o ciljevima napadača i tome koliko pristupa sustavu ima. Ovdje su glavne vrste.

• Napadi izbjegavanja: U napadima izbjegavanja, protivnici modificiraju ulaze kako bi prevarili AI sustav da ih krivo klasificira. To može uključivati ​​dodavanje neprimjetnih smetnji (ili namjernog šuma) ulaznim slikama ili drugim podacima kako bi se prevario model.
• Napadi trovanjem podataka: Napadi trovanjem podataka događaju se tijekom faze obuke AI sustava. Dodavanjem loših (ili zatrovanih) podataka u skup podataka za obuku stroja, model postaje manje točan u svojim predviđanjima i stoga je ugrožen.
• Napadi ekstrakcije modela: U napadima inverzijom modela, protivnici iskorištavaju mogućnost izvlačenja osjetljivih informacija iz uvježbanog AI modela. Manipulirajući unosima i promatrajući odgovore modela, mogu rekonstruirati privatne podatke, poput slika ili teksta.
• Prijenosni napadi: Ovo se odnosi na sposobnost napada na jedan sustav strojnog učenja da bude jednako učinkovit protiv drugog sustava strojnog učenja.

Kako se obraniti od suparničkih napada

Postoje različiti obrambeni mehanizmi koje možete koristiti da zaštitite svoj AI model od protivničkih napada. Evo nekih od najpopularnijih.

• Stvaranje robusnih sustava: Ovo uključuje razvoj AI modela koji su otporniji na kontradiktorne napade uključivanjem testova i smjernica za procjenu kako bi se programerima pomoglo u prepoznavanju nedostataka sustava koji bi mogli dovesti do kontradiktornih napada. Tada mogu razviti obranu od takvih napada.
• Validacija unosa: Drugi pristup je provjeriti ulaze u ML model za već poznate ranjivosti. Model bi se mogao dizajnirati tako da odbija ulaze, na primjer, koji sadrže modifikacije za koje se zna da uzrokuju pogrešna predviđanja strojeva.
• Suparnička obuka: Također možete uvesti određenu količinu kontradiktornih primjera u podatke o obuci vašeg sustava kako biste pomogli modelu da nauči otkriti i odbaciti kontradiktorne primjere u budućnosti.
• Objašnjiva AI: Teoretski, što bolje programeri i korisnici razumiju kako model umjetne inteligencije funkcionira duboko u sebi, to će ljudima biti lakše smisliti obranu od napada. Stoga, objašnjivi AI (XAI) pristup strojnom učenju i razvoju AI modela može riješiti mnoge probleme.

Zaključak

Suparnički napadi strojnog učenja predstavljaju značajnu prijetnju pouzdanosti i performansama sustava umjetne inteligencije. Međutim, razumijevanjem različitih vrsta dobro poznatih napada i implementacijom obrambenih strategija za njihovo sprječavanje, programeri mogu bolje zaštititi svoje AI modele od suparničkih napada.

Konačno, trebali biste shvatiti da su polja umjetne inteligencije i kontradiktornog strojnog učenja još uvijek u porastu. Dakle, možda još uvijek postoje druge kontradiktorne metode napada koje tek trebaju postati javnosti poznate.

Resursi

1. https://en.wikipedia.org/wiki/Adversarial_machine_learning
2. https://www.csoonline.com/article/573031/adversarial-machine-learning-explained-how-attackers-disrupt-ai-and-ml-systems.html
3. https://medium.com/@durgeshpatel2372001/an-introduction-to-adversarial-machine-learning-820010645df9
4. https://insights.sei.cmu.edu/blog/the-challenge-of-adversarial-machine-learning/
5. https://viso.ai/deep-learning/adversarial-machine-learning/
6. https://www.toptal.com/machine-learning/adversarial-machine-learning-tutorial