Kontraktorsko strojno učenje: pomen, primeri in kako deluje

Kontradiktorno strojno učenje je veja strojnega učenja, ki se osredotoča na ranljivosti modelov strojnega učenja za različne napade.

Nasprotni vnos je vsak vnos strojnega učenja, katerega namen je preslepiti model, da naredi napačne napovedi ali povzroči napačne rezultate.

Ker imajo lahko kontradiktorni napadi resne posledice, tudi v sektorjih varnosti, goljufij in zdravstvenega varstva, se raziskovalci osredotočajo na odkrivanje različnih metod napadov in razvijanje obrambnih mehanizmov proti njim.

Ta objava raziskuje kontradiktorni svet strojnega učenja in vključuje primere, izzive in načine za napad in obrambo modelov AI.

Kaj je kontradiktorno strojno učenje?

Kontradiktorno strojno učenje preučuje vrsto napadov, katerih namen je zmanjšati učinkovitost klasifikatorjev pri določenih nalogah. Z drugimi besedami, želijo preslepiti stroj AI.

Ker postaja uporaba umetne inteligence in tehnik strojnega učenja vse bolj razširjena, se povečuje tveganje kontradiktornih napadov. To predstavlja veliko grožnjo za različne aplikacije, ki jih poganja AI, vključno z zaznavanjem neželene pošte, osebnimi pomočniki, računalniškim vidom itd.

Kako delujejo kontradiktorni napadi

Kontradiktorni napad je vsak postopek, namenjen preslepitvi modela strojnega učenja, da povzroči napačne napovedi. To se lahko zgodi med treningom, pa tudi v okolju izvajanja v živo. Z drugimi besedami, če lahko ugotovite, kako preslepiti ali sabotirati model, potem ste ga uspešno napadli.

Kaj je kontradiktorni primer?

Nasprotni primer je vsak posebej zasnovan vhod za model strojnega učenja, katerega namen je povzročiti, da model naredi napako ali proizvede nepravilen izhod.

Nasprotni primer lahko ustvarite tako, da naredite rahle spremembe vhodnih podatkov, ki sicer morda niso vidni človeškemu očesu, vendar so pogosto dovolj, da spremenijo razumevanje modela in ga privedejo do napačnih rezultatov.

Kontradiktorni primeri se uporabljajo v fazah usposabljanja modela AI, izvedene spremembe pa so običajno ustvarjene z uporabo različnih tehnik optimizacije, vključno z metodami, ki temeljijo na gradientu, kot je napad Fast Gradient Sign Method (FGSM), ki izkorišča občutljivost modela na spremembe v vhodni prostor.

Cilj kontradiktornih primerov je vhodnim podatkom dodati rahle motnje, ki so lahko komaj vidne človeškim opazovalcem, vendar so še vedno dovolj pomembne, da model vodijo v napačno klasifikacijo vnosa.

Kontrastni napadi se lahko zgodijo v različnih sektorjih strojnega učenja, vključno s prepoznavanjem slik in obdelavo naravnega jezika.

Aplikacije Adversarial ML

Sposobnost zaznavanja in izkoriščanja slabosti katere koli platforme umetne inteligence ima širok spekter uporabe, saj je napadalec omejen le s svojo domišljijo. Tukaj je nekaj izmed mnogih načinov, na katere lahko heker izkoristi ogrožen stroj z umetno inteligenco z uporabo kontradiktornih metod strojnega učenja.

• Prepoznavanje slik in videa: Od moderiranja vsebin do avtonomnih vozil in nadzornih sistemov, veliko aplikacij umetne inteligence temelji na algoritmih za prepoznavanje slik in videa. S spreminjanjem vnosa stroja in prisili, da napačno razvrsti stvari, se lahko napadalec izogne ​​vsem nadzornim sistemom, ki se zanašajo na njegove zmožnosti prepoznavanja objektov. Pri avtonomnih vozilih lahko takšna manipulacija povzroči prometne nesreče.
• Filtriranje neželene pošte: Pošiljatelji neželene pošte lahko uspešno obidejo sisteme za zaznavanje neželene pošte z umetno inteligenco tako, da optimizirajo svojo neželeno e-pošto z različnimi strukturami, več dobrih besed, manj slabih besed itd.
• Zaznavanje zlonamerne programske opreme: Prav tako je mogoče izdelati zlonamerno računalniško kodo, ki se lahko izogne ​​odkrivanju skenerjev zlonamerne programske opreme.
• Obdelava Natural Language: Z napačnim razvrščanjem besedila z kontradiktornim strojnim učenjem lahko napadalec manipulira s sistemi priporočil, ki temeljijo na besedilu, detektorji lažnih novic, detektorji razpoloženja itd.
• Zdravstveno varstvo: Napadalci lahko manipulirajo z zdravstvenimi kartotekami, da spremenijo bolnikovo diagnozo ali zavedejo sistem, da razkrije občutljive zdravstvene kartoteke.
• Odkrivanje finančnih goljufij: Sistemi umetne inteligence, ki se uporabljajo pri odkrivanju finančnih goljufij, so prav tako ogroženi zaradi kontradiktornih napadov strojnega učenja. Napadalec lahko na primer ustvari sintetične podatke, ki posnemajo zakonite transakcije, s čimer omogoči izvajanje goljufij, ki jih model ne zazna.
• Biometrični varnostni sistemi: Z uporabo prirejenih podatkov lahko napadalec premaga varnostne sisteme za zaznavanje prstnih odtisov ali obraza in pridobi nepooblaščen dostop do omrežja ali platforme.
• Kontradiktorna obramba: Medtem ko je večina zgoraj navedenih uporab namenjena napadom na sistem, je kontradiktorna obramba preučevanje kontradiktornih napadov za uporabo pri ustvarjanju robustnih obrambnih sistemov pred napadalci stroja.

Posledice kontradiktornega pranja denarja

Kontradiktorno strojno učenje ima posledice, ki lahko vplivajo na zanesljivost ali delovanje sistemov AI. Tukaj so glavne.

• Spodkopava zaupanje: Če bodo kontradiktorni napadi naraščali in ušli izpod nadzora, bo to povzročilo erozijo zaupanja v sisteme umetne inteligence, saj bo javnost vsak sistem, ki temelji na strojnem učenju, gledala z določeno stopnjo suma.
• Etične posledice: Uporaba sistemov strojnega učenja na področjih, kot sta zdravstvo in kazensko pravosodje, sproža etična vprašanja, saj lahko vsak ogrožen sistem AI povzroči resno osebno in družbeno škodo.
• Gospodarske posledice: Kontradiktorni napadi lahko povzročijo finančno izgubo, povečane stroške varnosti, manipulacijo finančnega trga in celo škodo ugledu.
• Povečana kompleksnost: Grožnja kontradiktornih napadov poveča raziskovalni napor in splošno kompleksnost sistemov strojnega učenja.
• Kraja modela: Sam model AI je mogoče napasti, da bi preiskali in pridobili notranje parametre ali informacije o njegovi arhitekturi, ki jih je mogoče uporabiti za resnejši napad na sistem.

Vrste kontradiktornih napadov

Obstajajo različne vrste kontradiktornih napadov strojnega učenja, ki se razlikujejo glede na cilje napadalca in obseg dostopa, ki ga ima do sistema. Tukaj so glavne vrste.

• Napadi izogibanja: Pri napadih z izogibanjem nasprotniki spremenijo vnose, da zavedejo sistem AI, da jih napačno razvrsti. To lahko vključuje dodajanje neopaznih motenj (ali namernega hrupa) vhodnim slikam ali drugim podatkom za zavajanje modela.
• Napadi z zastrupitvijo podatkov: Napadi z zastrupitvijo podatkov se zgodijo med fazo usposabljanja sistema AI. Z dodajanjem slabih (ali zastrupljenih) podatkov v nabor podatkov za usposabljanje stroja postane model manj natančen v svojih napovedih in je zato ogrožen.
• Napadi ekstrakcije modela: Pri napadih z inverzijo modela nasprotniki izkoriščajo možnost pridobivanja občutljivih informacij iz usposobljenega modela AI. Z manipulacijo vnosov in opazovanjem odzivov modela lahko rekonstruirajo zasebne podatke, kot so slike ali besedilo.
• Prenosni napadi: To se nanaša na sposobnost napada na en sistem strojnega učenja, da je enako učinkovit proti drugemu sistemu strojnega učenja.

Kako se braniti pred nasprotniškimi napadi

Obstajajo različni obrambni mehanizmi, s katerimi lahko zaščitite svoj model umetne inteligence pred kontradiktornimi napadi. Tukaj je nekaj najbolj priljubljenih.

• Ustvarjanje robustnih sistemov: To vključuje razvoj modelov umetne inteligence, ki so bolj odporni na kontradiktorne napade z vključitvijo testov in smernic za ocenjevanje, ki razvijalcem pomagajo prepoznati sistemske napake, ki lahko vodijo do kontradiktornih napadov. Nato lahko razvijejo obrambo pred takšnimi napadi.
• Preverjanje vnosa: Drug pristop je preverjanje vnosov v model ML za že znane ranljivosti. Model bi lahko bil zasnovan tako, da na primer zavrača vnose, ki vsebujejo spremembe, za katere je znano, da povzročajo napačne napovedi strojev.
• Adversarial Usposabljanje: V podatke o usposabljanju vašega sistema lahko vnesete tudi določeno količino kontradiktornih primerov, da bi se model naučil odkrivati ​​in zavračati kontradiktorne primere v prihodnosti.
• Razložljiv AI: Teoretično bolje kot razvijalci in uporabniki razumejo, kako globoko v sebi deluje model AI, lažje bodo ljudje iznašli obrambo pred napadi. Zato lahko razložljiv pristop AI (XAI) k strojnemu učenju in razvoju modelov AI reši veliko težav.

zaključek

Kontradiktorni napadi strojnega učenja predstavljajo veliko grožnjo zanesljivosti in učinkovitosti sistemov umetne inteligence. Vendar pa lahko razvijalci z razumevanjem različnih vrst znanih napadov in izvajanjem obrambnih strategij za njihovo preprečevanje bolje zaščitijo svoje modele umetne inteligence pred kontradiktornimi napadi.

Nazadnje morate razumeti, da področji umetne inteligence in kontradiktornega strojnega učenja še vedno rasteta. Torej morda še vedno obstajajo druge kontradiktorne metode napada, ki šele bodo postale javno znane.

viri

1. https://en.wikipedia.org/wiki/Adversarial_machine_learning
2. https://www.csoonline.com/article/573031/adversarial-machine-learning-explained-how-attackers-disrupt-ai-and-ml-systems.html
3. https://medium.com/@durgeshpatel2372001/an-introduction-to-adversarial-machine-learning-820010645df9
4. https://insights.sei.cmu.edu/blog/the-challenge-of-adversarial-machine-learning/
5. https://viso.ai/deep-learning/adversarial-machine-learning/
6. https://www.toptal.com/machine-learning/adversarial-machine-learning-tutorial