Nebezpečí AI pro lidstvo

V březnu 22, 2023, Pozastavit obří experimenty s umělou inteligencí byl zveřejněn otevřený dopis vyzývající všechny laboratoře po celém světě, aby okamžitě zastavily vývoj obra AI systémy větší než OpenAI GTP-4.

Důvodem tohoto dopisu je četná nebezpečí, která pokročilé modely umělé inteligence představují pro lidstvo, a proto je nutné společně vyvíjet a implementovat bezpečnostní protokoly pro pokročilé systémy umělé inteligence po celém světě.

Tento příspěvek se zabývá všemi nebezpečími, která AI lidstvu představuje, a také zvažuje možná řešení těchto nebezpečí.

GPT-4 a dopis s 1,000 XNUMX podpisy

Pro většinu lidí je AI zábava. Díky algoritmům umělé inteligence můžete pořizovat chytré obrázky a videa, snadno upravovat své věci, pracovat rychleji, získávat lepší informace, doporučení a tak dále.

Když se však v březnu 2023 objevily zprávy o otevřeném dopise, který má na chvíli zastavit vývoj AI, pozornost většiny lidí upoutala jména za těmito podpisy. Z Elon Musk na Steve Wozniak z Applu, a stovky dalších významných vědců a předních badatelů, vážnost tohoto dopisu byla jasná.

Dopis od té doby nasbíral více než 27 tisíc podpisů a stále přibývá, ale po pravdě řečeno – vývoj AI je jako závody ve zbrojení. Zpomalíte, prohrajete.

Nebezpečí AI pro lidstvo

Umělá inteligence se dotýká mnoha oblastí soukromého i profesního života lidí v závislosti na tom, kdo jste a co děláte. Následuje výčet hlavních nebezpečí AI pro lidstvo obecně.

1. Krize ztráty zaměstnání a nezaměstnanosti: Potenciální přesun lidských pracovníků ve všech typech profesí je jedním z hlavních problémů AI. Kromě ztráty zaměstnání to může vést ke krizím v postižených společnostech, socioekonomickým rozdílům a dalším negativním dopadům na společnost.
2. Etické obavy: Od neobjektivních algoritmů po ztrátu soukromí a nedostatek odpovědnosti jsou etické obavy dalším velkým nebezpečím, které AI pro lidstvo představuje. Kdo za to může, když AI řidič zraní nebo zabije chodce? Kdo je zodpovědný za špatnou lékařskou diagnózu AI? A kdo by měl nést odpovědnost za další nezamýšlené důsledky, například když AI neúmyslně ublíží? Jak se stále více robotů poháněných umělou inteligencí a vozidel s autonomním řízením stává realitou, tato nebezpečí se stanou hlavním proudem.
3. Bezpečnostní rizika: Spoléhání se na umělou inteligenci pro určité bezpečnostní úkoly, jako je sledování, kybernetická bezpečnost a autonomní zbraně, otevírá mnoho potenciálních zneužití. Autonomní zbraně by například mohly způsobit vážné ztráty, protože špatní aktéři by mohli otrávit data, na která AI spoléhá, ​​což by ji přivedlo k rozhodnutí, která by mohla vést k vážným obětem nebo k eskalaci již tak napjatých konfliktů.
4. Ztráta lidské kontroly: Jednoduché systémy umělé inteligence, které nabízejí návrhy návrhů, jsou v pořádku, protože nevyhnutelně fungují jako asistenti lidských expertů. Ale se složitějšími modely umělé inteligence, které mohou přijímat rozhodnutí na základě stále většího množství dat, je velké nebezpečí, že lidská kontrola a dohled budou méně relevantní. To může vést k nepředvídaným okolnostem, protože například by bylo moudré řídit se doporučeními AI, ale jsou v takovém případě skutečně správná?
5. Dovednost a ekonomická závislost: Spoléhání se na AI pro odborné a ekonomické služby společnosti představuje další řadu nebezpečí. Za prvé, spoléhání se na AI při získávání informací může vést ke sníženým schopnostem myšlení lidí, protože tyto povinnosti přebírá systém. Za druhé, spoléhání se na AI pro služby a kritickou ekonomickou infrastrukturu otevírá tuto společnost kybernetickým útokům a dalším hrozbám specifickým pro AI.
6. Deepfakes & dezinformace: Deepfakes ohromili svět svými úžasnými schopnostmi před několika lety, ale to byl jen začátek. Jak se modely generování fotografií a videí AI každým dnem zlepšují, přijde den, kdy bude velmi obtížné – ne-li nemožné – odlišit obsah generovaný AI od skutečných obrázků a videí. A jako vždy jsou jeho potenciální implementace pro dezinformace, pomluvy, vydírání, vydírání, pomstychtivé porno, podvody, atentáty na postavy a sociální inženýrství neomezené.
7. Ekonomické disparity a sociální nerovnosti: Svět je již značně rozdělen na dvě třídy majetných a nemajetných, což vede k termínům jako 1% elita a 99% utlačovaných. Vzhledem k tomu, že AI spoléhá na kapitál pro vývoj a ekonomickou implementaci, zůstává vysoké nebezpečí, že i menší procento populace bude mít ekonomický a masivní prospěch z finančních výnosů umělé inteligence investovaných na trzích.
8. Sociální izolace: Mnoho uživatelů sociálních sítí je již připojeno ke svým chytrým telefonům díky algoritmům AI, které jim ukazují přesně to, co chtějí vidět, a dále je zapojují jinými zábavnými způsoby. Tato emocionální závislost vytvořila určitou úroveň závislosti a výslednou sociální izolaci, přičemž mnoho uživatelů je pohodlně se svými telefony sami. S tím, jak více služeb umělé inteligence nahradí lidi v životě člověka, také se sníží fyzické interakce.
9. Manipulace a ovlivňování: Algoritmy umělé inteligence se již všude používají k úspěšné manipulaci s výsledky vyhledávačů, zdroji sociálních médií, virtuálními asistenty a chatboty. Je jen otázkou času, kdy někdo narazí na inovativní způsob, jak maximalizovat tyto efekty pro zisk nebo zábavu.
10. Zdravotní a bezpečnostní rizika: Závislost zdravotní péče na umělé inteligenci také přináší rizika, která mohou ohrozit zdraví a pohodu pacienta. Zahrnují možnou chybnou diagnózu onemocnění a nesprávnou léčbu založenou na neobjektivních nebo diskriminačních tréninkových datech. Další možností je úmyslné otrávení dat pacienta špatným aktérem, aby AI způsobilo nezdravé nebo dokonce smrtelné doporučení léčby.
11. Ztráta lidské kreativity: Velké jazykové modely s možností generování textu, obrázků a videa se každým dnem zlepšují, přičemž v současné době vedou OpenAI GPT-4, Stable Diffusion a Midjourney 5. Tyto systémy usnadňují a urychlují vytváření všech typů obsahu, který je obvykle ponechán umělcům a přirozeně talentovaným, od hudby po psaný text, básně, malby, videa a skici tužkou. Jak se zlepšují a stávají se dostupnými pro každého, archetypální lidský tvůrce je ve společnosti stále méně relevantní.
12. Existenciální rizika: Nebezpečí systému umělé všeobecné inteligence (AGI) se schopnostmi daleko přesahujícími schopnosti jakéhokoli člověka a se zdroji tak silnými, že se může rozhodnout podrobit si lidi nebo jim nějakým způsobem ublížit, je velmi reálné.
13. Nedostatek průhlednosti: Nikdo skutečně nechápe, jak umělá inteligence funguje, zvláště když jsou algoritmy složité. To znamená, že málokdo přesně ví, jak se dosahuje určitých důležitých rozhodnutí vedoucích k nebezpečí zkreslených nebo diskriminačních výstupů, neodhalitelných bezpečnostních zranitelností a zlomyslných útoků a nezodpovědnosti za výsledky.
14. Snížená lidská hodnota a autonomie: Předpovídáním a doporučováním věcí pro lidi AI neustále přebírá lidské rozhodování a kontrolu. Navíc by to mohlo vést k ještě lépe vyvinutým strojům nebo modelům, které jsou mimo lidskou kontrolu. A to sníží lidskou relevanci v mnoha oblastech a profesích, stejně jako znehodnotí lidské dovednosti, odbornost a společenský přínos různých profesí v každé společnosti.
15. Nezamýšlené důsledky: Toto je pravděpodobně nejnebezpečnější ze všech nebezpečí, které AI lidstvu představuje. Jaké jsou nezamýšlené důsledky? Nikdo neví. Nikdo to nemůže vědět, dokud není příliš pozdě. To je alespoň teoreticky.

Možná řešení nebezpečí AI

Nebezpečí AI pro lidstvo jsou multidimenzionální, a to znamená, že řešení těchto nebezpečí budou muset být mnohostranná. Zde jsou některá z potenciálních řešení, která pomohou předcházet nebezpečím AI pro lidstvo nebo je snížit.

• Robustní regulace a správa: Vlády musí zřídit regulační orgány, které budou řídit a regulovat vývoj umělé inteligence pomocí etických standardů, transparentnosti a odpovědnosti.
• Mezinárodní spolupráce: Vlády z celého světa musí spolupracovat na vývoji etických směrnic pro vývoj umělé inteligence a na regulaci svých místních odvětví umělé inteligence.
• Veřejné vzdělávání a osvěta: Vzdělávání široké veřejnosti o umělé inteligenci, jejích výhodách a potenciálních rizicích také pomůže jednotlivcům a firmám činit správná rozhodnutí.
• Vysvětlitelná umělá inteligence (XAI): Jak název napovídá, XAI neboli vysvětlitelná umělá inteligence je přístup k vývoji umělé inteligence, který lidem umožňuje pochopit důvody předpovědí modelu.
• Odpovědná umělá inteligence za sociální dobro: Kapitalisté toužící po zisku to odmítnou, ale je to jedna z nejlepších věcí, které pro sebe může lidstvo udělat. Proč nevytvořit bezplatného lékaře nebo asistenta umělé inteligence pro všechny? Jak je to s asistenčními technologiemi, ochranou životního prostředí, podporou duševního zdraví, sociálními službami, zabezpečením potravin a sociálním zabezpečením, to vše poháněné sociální umělou inteligencí?
• Průběžné monitorování a vyhodnocování: Každý dotčený technolog, výzkumník nebo vědec musí sledovat vývoj AI. Protože zatímco velké společnosti lze snadno regulovat a přimět je dodržovat etické zásady, stále existují nepředvídatelné skupiny nebo týmy, které se mohou rozhodnout šokovat svět.

Závěr

Zatímco umělá inteligence má potenciál dramaticky ovlivnit budoucnost lidstva, pochopení jejích nebezpečí je také kriticky důležité, protože jen tak se můžeme bezpečně a spravedlivě dopracovat k jejím výhodám pro všechny a zároveň tato rizika zmírnit.