Peligros de la IA para la humanidad

En marzo de 22, 2023, el Pausar experimentos gigantes de IA Se publicó una carta abierta en la que se pedía a todos los laboratorios de todo el mundo que dejaran de desarrollar de inmediato AI sistemas más grandes que GTP-4 de OpenAI.

El razonamiento detrás de esta carta es acerca de los numerosos peligros que los modelos avanzados de IA representan para la humanidad, lo que hace necesario desarrollar e implementar conjuntamente protocolos de seguridad para los avanzados. inteligencia artificial sistemas a nivel mundial.

Esta publicación analiza todos los peligros que plantea la IA para la humanidad y también considera posibles soluciones a estos peligros.

GPT-4 y la carta de 1,000 firmas

Para la mayoría de las personas, la IA es divertida. Puede capturar imágenes y videos inteligentes, editar sus cosas con facilidad, trabajar más rápido, obtener mejor información, recomendaciones, etc., gracias a los algoritmos de inteligencia artificial.

Sin embargo, cuando en marzo de 2023 se supo la noticia de una carta abierta para detener el desarrollo de la IA por un tiempo, lo que llamó la atención de la mayoría de las personas fueron los nombres detrás de esas firmas. De Elon Musk a Steve Wozniak de Apple, y cientos de otros científicos notables e investigadores destacados, la seriedad de esta carta fue clara.

Desde entonces, la carta ha obtenido más de 27 XNUMX firmas y sigue contando, pero la verdad es que el desarrollo de la IA es como una carrera armamentista. Disminuyes la velocidad, pierdes.

Los peligros de la IA para la humanidad

La inteligencia artificial toca muchas áreas de la vida privada y profesional de las personas, según quién sea y qué haga. La siguiente es una lista de los principales peligros de la IA para la humanidad en general.

1. Desplazamiento laboral y crisis de desempleo: El posible desplazamiento de trabajadores humanos en todo tipo de profesiones es una de las principales preocupaciones sobre la IA. Además de la pérdida de puestos de trabajo, esto puede provocar crisis en las sociedades afectadas, disparidades socioeconómicas y otros efectos negativos en la sociedad.
2. Preocupaciones éticas: Desde algoritmos sesgados hasta la pérdida de privacidad y la falta de responsabilidad, las preocupaciones éticas son otro peligro importante que plantea la IA para la humanidad. ¿Quién tiene la culpa cuando un conductor de IA hiere o mata a un peatón? ¿Quién es responsable de un diagnóstico médico erróneo de la IA? ¿Y quién debería rendir cuentas por otras consecuencias no deseadas, como cuando la IA daña involuntariamente? A medida que se hagan realidad más robots impulsados ​​por IA y vehículos de conducción autónoma, estos peligros se generalizarán.
3. Seguridad Riesgos: La dependencia de la inteligencia artificial para ciertas tareas de seguridad, como la vigilancia, la seguridad cibernética y las armas autónomas abre muchas posibilidades de explotación. Las armas autónomas podrían causar bajas graves, por ejemplo, porque los malos actores podrían envenenar los datos en los que se basa la IA, lo que la llevaría a tomar decisiones que podrían provocar bajas graves o escalar conflictos que ya son tensos.
4. Pérdida de control humano: Los sistemas de IA simples que ofrecen sugerencias de diseño están bien, ya que inevitablemente funcionan como asistentes de los expertos humanos. Pero con modelos de IA más complejos, que pueden tomar decisiones basadas en cantidades cada vez mayores de datos, el peligro de que el control y la supervisión humanos se vuelvan menos relevantes es alto. Esto puede conducir a circunstancias imprevistas, porque, por ejemplo, sería prudente seguir las recomendaciones de la IA, pero ¿son realmente correctas en ese caso?
5. Habilidad y Dependencia Económica: La dependencia de la IA para la experiencia y los servicios económicos de la sociedad plantea otro conjunto de peligros. En primer lugar, la dependencia de la IA para obtener información puede reducir la capacidad de pensamiento de los humanos, ya que el sistema se hace cargo de estas funciones. En segundo lugar, la dependencia de la IA para los servicios y la infraestructura económica crítica abre a esa sociedad a los ataques cibernéticos y otras amenazas específicas de la IA.
6. Deepfakes y desinformación: Deepfakes sorprendió al mundo con sus asombrosas capacidades hace algunos años, pero eso fue solo el comienzo. A medida que los modelos de generación de fotos y videos de IA mejoren cada día, llegará el día en que será muy difícil, si no imposible, diferenciar el contenido generado por IA de las imágenes y videos reales. Y como siempre, sus implementaciones potenciales para desinformación, difamación, extorsión, chantaje, pornografía vengativa, fraude, difamación e ingeniería social son ilimitadas.
7. Disparidad económica y desigualdad social: El mundo ya está altamente dividido en dos clases de ricos y pobres, lo que lleva a términos como el 1% de élite y el 99% de oprimidos. Dado que la IA depende del capital para el desarrollo y la implementación económica, el peligro sigue siendo alto de que incluso un porcentaje menor de la población termine beneficiándose económica y masivamente de los rendimientos financieros de la inteligencia artificial invertida en los mercados.
8. Aislamiento social: Muchos redes sociales Los usuarios ya están enganchados a sus teléfonos inteligentes gracias a algoritmos de inteligencia artificial que les muestran exactamente lo que quieren ver y los involucran aún más en otras formas de entretenimiento. Esta dependencia emocional ha creado cierto nivel de adicción y el consiguiente aislamiento social, y muchos usuarios se sienten cómodos solos con sus teléfonos. Además, a medida que más servicios de IA reemplacen a los humanos en la vida de una persona, también se reducirán las interacciones físicas.
9. Manipulación e Influencia: Los algoritmos de IA ya se utilizan en todas partes para manipular motor de búsqueda resultados, feeds de redes sociales, asistentes virtuales y chatbots con éxito. Es sólo cuestión de tiempo antes de que alguien encuentre una forma innovadora de maximizar estos efectos con fines de lucro o diversión.
10. Riesgos de Salud y Seguridad: La dependencia de la IA para la atención médica también conlleva riesgos que pueden poner en peligro la salud y el bienestar de un paciente. Incluyen el posible diagnóstico erróneo de la enfermedad y el tratamiento incorrecto basado en datos de entrenamiento sesgados o discriminatorios. Otra posibilidad es el envenenamiento intencional de los datos del paciente por parte de un mal actor para efectuar una recomendación de tratamiento poco saludable o incluso fatal de la IA.
11. Pérdida de la creatividad humana: Los modelos de lenguaje grande con capacidades de generación de texto, imagen y video están mejorando cada día, con GPT-4, Stable Diffusion y Midjourney 5 de OpenAI actualmente liderando el camino. Estos sistemas hacen que sea más fácil y rápido crear todo tipo de contenido que generalmente se deja para los artistas y los talentos naturales, desde música hasta texto escrito, poemas, pinturas, videos y bocetos a lápiz. A medida que mejoran y están disponibles para todos, el creador humano arquetípico se vuelve cada vez menos relevante en la sociedad.
12. Riesgos existenciales: El peligro de un sistema de Inteligencia General Artificial (AGI) con capacidades mucho más allá de las de cualquier humano y con recursos tan poderosos que puede decidir subyugar o dañar a los humanos de alguna manera es muy real.
13. Falta de transparencia: Nadie entiende realmente cómo funciona la inteligencia artificial, especialmente cuando los algoritmos son complejos. Esto significa que casi nadie sabe exactamente cómo se toman ciertas decisiones importantes, lo que genera el peligro de resultados sesgados o discriminatorios, vulnerabilidades de seguridad indetectables y ataques maliciosos, y falta de rendición de cuentas de los resultados.
14. Disminución del valor humano y la autonomía: Al predecir y recomendar cosas para los humanos, la IA se hace cargo continuamente de la toma de decisiones y el control humanos. Además, esto podría conducir a máquinas o modelos aún mejor desarrollados que están más allá del control humano. Y esto disminuirá la relevancia humana en muchas áreas y profesiones, así como devaluará las habilidades humanas, la experiencia y las contribuciones sociales de diferentes profesiones en cada sociedad.
15. Consecuencias no deseadas: Este es probablemente el más peligroso de todos los peligros que plantea la IA para la humanidad. ¿Cuáles son las consecuencias no deseadas? Nadie sabe. Nadie puede saberlo hasta que es demasiado tarde. Eso es al menos, en teoría.

Posibles soluciones a los peligros de la IA

Los peligros de la IA para la humanidad son multidimensionales y esto significa que las soluciones a estos peligros tendrán que ser multifacéticas. Estas son algunas de las posibles soluciones para ayudar a prevenir los peligros de la IA para la humanidad o reducirlos.

• Regulación y Gobernanza Robustas: Los gobiernos deben establecer organismos reguladores para gestionar y regular el desarrollo de la IA con estándares éticos, transparencia y rendición de cuentas.
• Cooperación internacional: Los gobiernos de todo el mundo deben trabajar juntos en el desarrollo de pautas éticas para el desarrollo de IA y la regulación de sus industrias locales de IA.
• Educación Pública y Concientización: Educar al público en general sobre la inteligencia artificial, sus beneficios y los riesgos potenciales también ayudará a las personas y empresas a tomar las decisiones correctas.
• IA explicable (XAI): Como sugiere el nombre, XAI o eXplainable AI es un enfoque de desarrollo de IA que hace posible que los humanos comprendan el razonamiento detrás de las predicciones del modelo.
• IA responsable para el bien social: Los capitalistas en busca de ganancias rechazarán esto, pero es una de las mejores cosas que la humanidad puede hacer por sí misma. ¿Por qué no crear un médico o asistente de IA gratuito para todos? ¿Qué hay de las tecnologías de asistencia, la conservación del medio ambiente, el apoyo a la salud mental, los servicios sociales, la seguridad alimentaria y el bienestar social, todo impulsado por Social AI?
• Monitoreo y Evaluación Continuos: Todo tecnólogo, investigador o científico preocupado debe estar atento al desarrollo de la IA. Porque si bien las grandes empresas pueden ser fácilmente reguladas y obligadas a seguir pautas éticas, todavía existen esos grupos o equipos impredecibles que pueden decidir sorprender al mundo.

Conclusión

Si bien la inteligencia artificial tiene el potencial de impactar dramáticamente el futuro de la humanidad, comprender sus peligros también es de vital importancia, porque solo entonces podemos trabajar de manera segura y equitativa para lograr sus beneficios para todos, mientras mitigamos estos riesgos.