Konkurences mašīnmācīšanās: nozīme, piemēri un kā tā darbojas

Konkurences mašīnmācīšanās ir mašīnmācīšanās nozare, kas koncentrējas uz mašīnmācīšanās modeļu ievainojamību pret dažādiem uzbrukumiem.

Konkurences ievade ir jebkura mašīnmācīšanās ievade, kuras mērķis ir maldināt modeli, lai tas izdarītu nepareizas prognozes vai radītu nepareizus rezultātus.

Tā kā pretrunīgiem uzbrukumiem var būt nopietnas sekas, tostarp drošības, krāpšanas un veselības aprūpes nozarēs, pētnieki koncentrējas uz dažādu uzbrukuma metožu atklāšanu, kā arī pret tām vērstu aizsardzības mehānismu izstrādi.

Šajā ziņojumā tiek pētīta pretrunīgā mašīnmācīšanās pasaule un iekļauti piemēri, izaicinājumi un veidi, kā uzbrukt AI modeļiem un tos aizstāvēt.

Kas ir pretrunīgā mašīnmācīšanās?

Pretēja mašīnmācība pēta uzbrukumu klasi, kuru mērķis ir samazināt klasifikatoru veiktspēju konkrētos uzdevumos. Citiem vārdiem sakot, viņu mērķis ir apmānīt AI mašīnu.

Tā kā mākslīgā intelekta un mašīnmācīšanās metožu izmantošana kļūst arvien izplatītāka, palielinās pretrunīgo uzbrukumu risks. Tas rada nopietnus draudus dažādām ar AI darbināmām lietojumprogrammām, tostarp surogātpasta noteikšanai, personīgajiem asistentiem, datora redzei utt.

Kā darbojas pretuzbrukumi

Sacensību uzbrukums ir jebkurš process, kas paredzēts, lai maldinātu mašīnmācīšanās modeli, radot nepareizas prognozes. Tas var notikt apmācības laikā, kā arī tiešā izpildes vidē. Citiem vārdiem sakot, ja jūs varat izdomāt veidu, kā apmānīt vai sabotēt modeli, tad esat tam veiksmīgi uzbrucis.

Kas ir pretrunīgs piemērs?

Sacensību piemērs ir jebkura speciāli izstrādāta mašīnmācīšanās modeļa ievade, kuras mērķis ir izraisīt modeļa kļūdu vai nepareizu izvadi.

Varat izveidot pretrunīgu piemēru, veicot nelielas izmaiņas ievades datos, kas, lai gan cilvēka acij var nebūt redzami, bieži vien ir pietiekami, lai mainītu modeļa izpratni un liktu tam veikt kļūdainas izvades.

Pretendenti piemēri tiek izmantoti AI modeļa apmācības posmos, un veiktās modifikācijas parasti tiek ģenerētas, izmantojot dažādas optimizācijas metodes, tostarp uz gradientu balstītas metodes, piemēram, Fast Gradient Sign Method (FGSM) Attack, kas izmanto modeļa jutīgumu pret izmaiņām ievades telpā.

Mērķis ar pretrunīgiem piemēriem ir pievienot nelielus traucējumus ievades datiem, kas var būt tik tikko redzami novērotājiem, taču tie joprojām ir pietiekami nozīmīgi, lai liktu modelim nepareizi klasificēt ievadi.

Nelabvēlīgi uzbrukumi var notikt dažādos mašīnmācīšanās sektoros, tostarp attēlu atpazīšanā un dabiskās valodas apstrādē.

Sacensību ML pielietojumi

Spējai atklāt un izmantot jebkuras mākslīgā intelekta platformas vājās vietas ir plašs lietojumu klāsts, jo uzbrucēju ierobežo tikai viņa iztēle. Šeit ir daži no daudzajiem veidiem, kā hakeris var izmantot apdraudētu AI mašīnu, izmantojot pretrunīgas mašīnmācīšanās metodes.

• Attēlu un video atpazīšana: no satura regulēšanas līdz autonomiem transportlīdzekļiem un novērošanas sistēmām, daudzas mākslīgā intelekta lietojumprogrammas paļaujas uz attēlu un video atpazīšanas algoritmiem. Mainot iekārtas ievadi un liekot tai nepareizi klasificēt lietas, uzbrucējs var izvairīties no jebkādām vadības sistēmām, kas paļaujas uz tās objektu atpazīšanas iespējām. Autonomajiem transportlīdzekļiem šāda manipulācija var izraisīt ceļu satiksmes negadījumus.
• Surogātpasta filtrēšana: Surogātpasta izplatītāji var veiksmīgi apiet AI surogātpasta noteikšanas sistēmas, optimizējot savus surogātpasta e-pastus ar dažādām struktūrām, vairāk labu vārdu, mazāk sliktu vārdu utt.
• Ļaunprātīgas programmatūras noteikšana: vienlīdz iespējams izveidot ļaunprātīgu datora kodu, kas var izvairīties no ļaunprātīgas programmatūras skeneru atklāšanas.
• Dabas valodas apstrāde: nepareizi klasificējot tekstu, izmantojot pretrunīgu mašīnmācīšanos, uzbrucējs var manipulēt ar tekstu balstītām ieteikumu sistēmām, viltus ziņu detektoriem, noskaņojuma detektoriem un tā tālāk.
• Veselības aprūpe: Uzbrucēji var manipulēt ar medicīniskajiem ierakstiem, lai mainītu pacienta diagnozi vai maldinātu sistēmu, atklājot sensitīvus medicīniskos ierakstus.
• Finanšu krāpšanas atklāšana: AI sistēmas, kas tiek izmantotas finanšu krāpšanas atklāšanā, arī ir pakļautas pretēju mašīnmācīšanās uzbrukumu riskam. Piemēram, uzbrucējs var izveidot sintētiskus datus, kas atdarina likumīgus darījumus, tādējādi ļaujot veikt krāpšanu, ko modelis neatklāj.
• Biometriskās drošības sistēmas: izmantojot manipulētus datus, uzbrucējs var pārspēt pirkstu nospiedumu vai sejas noteikšanas drošības sistēmas, lai iegūtu nesankcionētu piekļuvi tīklam vai platformai.
• Pretēja aizsardzība: Lai gan lielākā daļa no iepriekšminētajiem lietojumiem ir paredzēti uzbrukumam sistēmai, pretrunīgā aizsardzība ir pretrunīgo uzbrukumu izpēte, ko izmanto, lai izveidotu spēcīgas aizsardzības sistēmas pret mašīnas uzbrucējiem.

Konkurences ML sekas

Pretējai mašīnmācībai ir sekas, kas var ietekmēt AI sistēmu uzticamību vai veiktspēju. Šeit ir galvenie.

• Erodes Trust: Ja pretinieku uzbrukumi pieaugs un izzudīs no rokām, tas izraisīs AI sistēmu uzticības samazināšanos, jo sabiedrība ar aizdomu līmeni skatīsies uz jebkuru uz mašīnmācību balstītu sistēmu.
• Ētiskās sekasMašīnmācīšanās sistēmu izmantošana tādās jomās kā veselības aprūpe un krimināltiesības rada ētiskus jautājumus, jo jebkura apdraudēta AI sistēma var radīt nopietnus personiskus un sociālus zaudējumus.
• Ekonomiskās sekas: Nelabvēlīgi uzbrukumi var radīt finansiālus zaudējumus, paaugstinātas drošības izmaksas, manipulēt finanšu tirgū un pat sabojāt reputāciju.
• Paaugstināta sarežģītība: pretrunīgu uzbrukumu draudi palielina pētniecības centienus un mašīnmācīšanās sistēmu vispārējo sarežģītību.
• Modeļu zādzība: AI modelim var uzbrukt, lai meklētu un izgūtu iekšējos parametrus vai informāciju par tā arhitektūru, ko var izmantot nopietnākam uzbrukumam sistēmai.

Sacensību uzbrukumu veidi

Pastāv dažāda veida pretrunīgi mašīnmācīšanās uzbrukumi, un tie atšķiras atkarībā no uzbrucēja mērķiem un tā, cik liela piekļuve viņam ir sistēmai. Šeit ir galvenie veidi.

• Izvairīšanās no uzbrukumiem: Izvairīšanās no uzbrukumiem pretinieki pārveido ievades datus, lai viltotu mākslīgā intelekta sistēmu tos nepareizi klasificētu. Tas var ietvert nemanāmu traucējumu (vai tīša trokšņa) pievienošanu attēlu vai citu datu ievadei, lai maldinātu modeli.
• Datu saindēšanās uzbrukumi: Datu saindēšanās uzbrukumi notiek AI sistēmas apmācības fāzē. Iekārtas apmācības datu kopai pievienojot sliktus (vai saindētus) datus, modeļa prognozes kļūst mazāk precīzas un tādējādi tiek apdraudētas.
• Modeļu ekstrakcijas uzbrukumi: modeļu inversijas uzbrukumos pretinieki izmanto iespēju iegūt sensitīvu informāciju no apmācīta AI modeļa. Manipulējot ar ievadi un novērojot modeļa atbildes, viņi var rekonstruēt privātos datus, piemēram, attēlus vai tekstu.
• Pārneses uzbrukumi: tas attiecas uz uzbrukuma spēju pret vienu mašīnmācīšanās sistēmu būt tikpat efektīvam pret citu mašīnmācīšanās sistēmu.

Kā aizsargāties pret pretinieku uzbrukumiem

Ir dažādi aizsardzības mehānismi, ko varat izmantot, lai aizsargātu savu AI modeli pret uzbrukumiem. Šeit ir daži no populārākajiem.

• Izturīgu sistēmu izveide: Tas ietver tādu AI modeļu izstrādi, kas ir izturīgāki pret pretrunīgiem uzbrukumiem, iekļaujot testus un novērtēšanas vadlīnijas, lai palīdzētu izstrādātājiem identificēt sistēmas trūkumus, kas var izraisīt pretrunīgus uzbrukumus. Pēc tam viņi var izstrādāt aizsardzību pret šādiem uzbrukumiem.
• Ievades apstiprināšana: Vēl viena pieeja ir pārbaudīt ML modeļa ievades jau zināmās ievainojamības. Modelis varētu būt izstrādāts, lai noraidītu ievades datus, piemēram, kas satur modifikācijas, kas, kā zināms, liek mašīnām veikt nepareizas prognozes.
• Sacensību apmācība: Jūs varat arī ieviest zināmu skaitu pretrunīgu piemēru savas sistēmas apmācības datos, lai palīdzētu modelim nākotnē iemācīties atklāt un noraidīt pretrunīgus piemērus.
• Izskaidrojams AI: Teorētiski, jo labāk izstrādātāji un lietotāji sapratīs, kā AI modelis darbojas dziļi, jo vieglāk cilvēkiem būs izstrādāt aizsardzību pret uzbrukumiem. Tāpēc izskaidrojama AI (XAI) pieeja mašīnmācībai un AI modeļa izstrādei var atrisināt daudzas problēmas.

Secinājumi

Pretēja mašīnmācīšanās uzbrukumi rada ievērojamus draudus mākslīgā intelekta sistēmu uzticamībai un veiktspējai. Tomēr, izprotot dažādus labi zināmo uzbrukumu veidus un ieviešot aizsardzības stratēģijas, lai tos novērstu, izstrādātāji var labāk aizsargāt savus AI modeļus no pretinieku uzbrukumiem.

Visbeidzot, jums vajadzētu saprast, ka AI un pretrunīgās mašīnmācīšanās jomas joprojām aug. Tātad joprojām var būt citas pretrunīgas uzbrukuma metodes, par kurām vēl nav kļuvušas publiski zināmas.

resursi

1. https://en.wikipedia.org/wiki/Adversarial_machine_learning
2. https://www.csoonline.com/article/573031/adversarial-machine-learning-explained-how-attackers-disrupt-ai-and-ml-systems.html
3. https://medium.com/@durgeshpatel2372001/an-introduction-to-adversarial-machine-learning-820010645df9
4. https://insights.sei.cmu.edu/blog/the-challenge-of-adversarial-machine-learning/
5. https://viso.ai/deep-learning/adversarial-machine-learning/
6. https://www.toptal.com/machine-learning/adversarial-machine-learning-tutorial