Perigos da IA ​​para a Humanidade

Em março 22, 2023, o Pausar experimentos gigantes de IA carta aberta foi publicada, pedindo a todos os laboratórios em todo o mundo que parem imediatamente de desenvolver AI sistemas maiores que GTP-4 da OpenAI.

O raciocínio por trás desta carta é sobre os numerosos perigos que os modelos avançados de IA representam para a humanidade, tornando necessário desenvolver e implementar em conjunto protocolos de segurança para sistemas avançados. inteligência artificial sistemas em todo o mundo.

Este post analisa todos os perigos representados pela IA para a humanidade e também considera possíveis soluções para esses perigos.

GPT-4 e a carta de 1,000 assinaturas

Para a maioria das pessoas, a IA é divertida. Você pode capturar fotos e vídeos inteligentes, editar suas coisas com facilidade, trabalhar mais rápido, obter melhores informações, recomendações e assim por diante, graças aos algoritmos de inteligência artificial.

No entanto, quando surgiram as notícias em março de 2023 de uma carta aberta para interromper o desenvolvimento da IA ​​por um tempo, o que chamou a atenção da maioria das pessoas foram os nomes por trás dessas assinaturas. De Elon Musk para Steve Wozniak da Apple, e centenas de outros cientistas notáveis ​​e pesquisadores importantes, a seriedade desta carta era clara.

Desde então, a carta acumulou mais de 27 mil assinaturas e contando, mas, verdade seja dita, o desenvolvimento da IA ​​é como uma corrida armamentista. Você desacelera, você perde.

Os perigos da IA ​​para a humanidade

A inteligência artificial toca muitas áreas da vida privada e profissional das pessoas, dependendo de quem você é e do que faz. A seguir está uma lista dos principais perigos da IA ​​para a humanidade em geral.

1. Deslocamento de empregos e crise de desemprego: O deslocamento potencial de trabalhadores humanos em todos os tipos de profissões é uma das maiores preocupações sobre a IA. Além da perda de empregos, isso pode levar a crises nas sociedades afetadas, disparidades socioeconômicas e outros efeitos negativos na sociedade.
2. Preocupações éticas: De algoritmos tendenciosos a perda de privacidade e falta de responsabilidade, as preocupações éticas são outro grande perigo que a IA representa para a humanidade. De quem é a culpa quando um motorista de IA machuca ou mata um pedestre? Quem é responsável por um diagnóstico médico errado da IA? E quem deve ser responsabilizado por outras consequências não intencionais, como quando a IA prejudica involuntariamente? À medida que mais robôs com IA e veículos autônomos se tornarem realidade, esses perigos se tornarão comuns.
3. Segurança Riscos: a dependência de inteligência artificial para determinadas tarefas de segurança, como vigilância, segurança cibernética e armas autônomas abre muitas explorações em potencial. Armas autônomas podem causar baixas graves, por exemplo, porque os malfeitores podem envenenar os dados dos quais a IA depende, levando-a a tomar decisões que podem levar a baixas graves ou escalar conflitos já tensos.
4. Perda de Controle Humano: sistemas de IA simples que oferecem sugestões de design são aceitáveis, pois inevitavelmente funcionam como assistentes de especialistas humanos. Mas com modelos de IA mais complexos, que podem tomar decisões com base em quantidades cada vez maiores de dados, o perigo de que o controle e a supervisão humanos se tornem menos relevantes é alto. Isso pode levar a circunstâncias imprevistas, porque, por exemplo, seria sensato seguir as recomendações da IA, mas elas estão realmente corretas nesse caso?
5. Habilidade e Dependência Econômica: A dependência da IA ​​para os serviços especializados e econômicos da sociedade representa outro conjunto de perigos. Primeiro, a dependência da IA ​​para obter informações pode levar a capacidades de pensamento reduzidas para os humanos, pois o sistema assume essas funções. Em segundo lugar, a dependência de IA para serviços e infraestrutura econômica crítica abre essa sociedade para ataques cibernéticos e outras ameaças específicas de IA.
6. Deepfakes & Desinformação: Deepfakes surpreendeu o mundo com suas incríveis capacidades alguns anos atrás, mas isso foi apenas o começo. À medida que os modelos de geração de fotos e vídeos com IA melhoram a cada dia, chegará o dia em que se tornará muito difícil – se não impossível – diferenciar o conteúdo gerado por IA de fotos e vídeos reais. E, como sempre, suas possíveis implementações para desinformação, difamação, extorsão, chantagem, pornografia de vingança, fraude, assassinato de caráter e engenharia social são ilimitadas.
7. Disparidade econômica e desigualdade social: O mundo já está altamente dividido em duas classes de ricos e pobres, levando a termos como 1% de elite e 99% de oprimidos. Como a IA depende de capital para desenvolvimento e implementação econômica, permanece alto o perigo de que uma porcentagem ainda menor da população acabe se beneficiando econômica e maciçamente dos retornos financeiros da inteligência artificial investida nos mercados.
8. Isolamento social: Vários meios de comunicação social os usuários já estão conectados aos seus smartphones, graças aos algoritmos de IA que mostram exatamente o que desejam ver e os envolvem ainda mais de outras formas de entretenimento. Esta dependência emocional criou algum nível de dependência e o consequente isolamento social, com muitos utilizadores a sentirem-se confortáveis ​​sozinhos com os seus telefones. Além disso, à medida que mais serviços de IA substituem os humanos na vida de uma pessoa, elas também terão interações físicas reduzidas.
9. Manipulação e Influência: Algoritmos de IA já são usados ​​em todos os lugares para manipular motor de busca resultados, feeds de mídia social, assistentes virtuais e chatbots com sucesso. É apenas uma questão de tempo até que alguém encontre uma forma inovadora de maximizar esses efeitos com fins lucrativos ou divertidos.
10. Riscos de Saúde e Segurança: A dependência de IA para assistência médica também traz riscos que podem comprometer a saúde e o bem-estar do paciente. Eles incluem o possível diagnóstico errado de doença e tratamento errado com base em dados de treinamento tendenciosos ou discriminatórios. Outra possibilidade é o envenenamento intencional dos dados do paciente por um malfeitor para efetuar uma recomendação de tratamento insalubre ou até fatal da IA.
11. Perda da Criatividade Humana: Modelos de linguagem grandes com recursos de geração de texto, imagem e vídeo estão melhorando a cada dia, com GPT-4, Stable Diffusion e Midjourney 5 da OpenAI atualmente liderando o caminho. Esses sistemas tornam mais fácil e rápido criar todos os tipos de conteúdo geralmente deixados para artistas e talentos naturais, desde música até textos escritos, poemas, pinturas, vídeos e esboços a lápis. À medida que melhoram e se tornam disponíveis para todos, o arquétipo do criador humano torna-se cada vez menos relevante na sociedade.
12. Riscos Existenciais: O perigo de um sistema de Inteligência Geral Artificial (AGI) com capacidades muito além de qualquer ser humano e com recursos tão poderosos que pode decidir subjugar ou prejudicar os humanos de alguma forma é muito real.
13. Falta de Transparência: Ninguém realmente entende como funciona a inteligência artificial, especialmente quando os algoritmos são complexos. Isso significa que quase ninguém sabe exatamente como certas decisões importantes são tomadas, levando ao perigo de resultados tendenciosos ou discriminatórios, vulnerabilidades de segurança indetectáveis ​​e ataques mal-intencionados e resultados irresponsáveis.
14. Valor humano diminuído e autonomia: ao prever e recomendar coisas para humanos, a IA está continuamente assumindo o controle e a tomada de decisões humanas. Além disso, isso pode levar a máquinas ou modelos ainda mais desenvolvidos que estão além do controle humano. E isso diminuirá a relevância humana em muitas áreas e profissões, bem como desvalorizará habilidades humanas, expertise e contribuições sociais de diferentes profissões em cada sociedade.
15. Consequências não-intencionais: Este é provavelmente o mais perigoso de todos os perigos que a IA representa para a humanidade. Quais são as consequências não intencionais? Ninguém sabe. Ninguém pode saber até que seja tarde demais. Isso é, pelo menos, em teoria.

Possíveis soluções para os perigos da IA

Os perigos da IA ​​para a humanidade são multidimensionais e isso significa que as soluções para esses perigos terão que ser multifacetadas. Aqui estão algumas das possíveis soluções para ajudar a prevenir os perigos da IA ​​para a humanidade ou reduzi-los.

• Regulação e governança robustas: Os governos precisam estabelecer órgãos reguladores para gerenciar e regular o desenvolvimento da IA ​​com padrões éticos, transparência e responsabilidade.
• Cooperação internacional: Governos de todo o mundo precisam trabalhar juntos no desenvolvimento de diretrizes éticas para o desenvolvimento de IA e na regulamentação de suas indústrias locais de IA.
• Educação pública e conscientização: Educar o público em geral sobre inteligência artificial, seus benefícios e riscos potenciais também ajudará indivíduos e empresas a tomarem as decisões corretas.
• IA Explicável (XAI): Como o nome sugere, XAI ou eXplainable AI é uma abordagem de desenvolvimento de IA que permite que humanos entendam o raciocínio por trás das previsões do modelo.
• IA responsável pelo bem social: Os capitalistas em busca de lucro rejeitarão isso, mas é uma das melhores coisas que a humanidade pode fazer por si mesma. Por que não criar um médico ou assistente de IA gratuito para todos? Que tal tecnologias assistivas, conservação ambiental, apoio à saúde mental, serviços sociais, segurança alimentar e bem-estar social, todos alimentados por Social AI?
• Monitoramento e Avaliação Contínuos: todo tecnólogo, pesquisador ou cientista preocupado deve ficar de olho no desenvolvimento da IA. Porque, embora as grandes empresas possam ser facilmente regulamentadas e obrigadas a seguir diretrizes éticas, ainda existem aqueles grupos ou equipes imprevisíveis que podem decidir chocar o mundo.

Conclusão

Embora a inteligência artificial tenha o potencial de impactar dramaticamente o futuro da humanidade, entender seus perigos também é extremamente importante, porque só assim podemos trabalhar com segurança e igualdade para seus benefícios para todos, ao mesmo tempo em que mitigamos esses riscos.