Además de los riesgos con la automatización y el desplazamiento de puestos de trabajo, también existen peligros en cuestiones de privacidad, seguridad, falta de trasparencia, prejuicios o discriminación, dilemas éticos, monopolización del poder, dependencia de la tecnología, desigualdad económica, inconvenientes políticos y legales, creación de armamento controlado por la IA, desinformación y manipulación, deshumanización y consecuencias imprevistas. 

Desde la literatura, libros como Yo robot (1950) de Isaac Asimov, plantean las problemáticas que pueden suceder cuando un robot evoluciona hasta poseer un tipo de libre albedrío con el que puede llegar a rebelarse contra las personas. Asimismo, la novela Máquinas como yo (2020) de Ian McEwan plantea una Inglaterra totalmente diferente en la década de 1980, donde la IA de un androide empieza a tomar autonomía, dando lugar a un triángulo de amor y a la posibilidad de venganza del robot hacia una pareja. Estas obras nos llevan a reflexionar desde la moral y la ética la relación entre los seres humanos y la tecnología, planteando la pregunta de si la máquina está a favor del hombre o en su contra.

“Las tres leyes de la robótica:
1. Un robot no hará daño a un ser humano o, por inacción, permitirá que un ser humano sufra daño.
2. Un robot debe cumplir las órdenes dadas por los seres humanos, a excepción de aquellas que entrasen en conflicto con la primera ley.
3. Un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la primera o con la segunda ley
La Ley Zeroth: un robot no puede dañar a la humanidad o, por inacción, permitir que la humanidad sufra daños”. — Isaac Asimov en Yo robot.  

Aunque pueda parecer el argumento de una película o una novela de ciencia ficción, la IA puede en un futuro cercano desencadenar la extinción de la humanidad. En 2023, un grupo de especialistas en IA publicaron la Declaración sobre el riesgo de la IA, un texto donde se expone la necesidad de trabajar en la mitigación de los riesgos y peligros tras el desarrollo y los avances de esta nueva tecnología.

A pesar de que los actuales modelos de lenguaje son tan solo un pequeño paso para la creación de megasistemas que posean la capacidad de planear y actuar, las proyecciones a partir de esta tecnología generan el peligro de que los grandes avances sean empleados por organizaciones maliciosas, que podrían poner en riesgo la existencia de la vida humana en el planeta. 

En 2023 el Future of Life Institute (FLI) dio a conocer un documento firmado por cerca de 25 000 científicos y expertos en tecnología, donde se expresa la necesidad de detener el desarrollo de esta tecnología y se cuestiona la competencia que está naciendo entre los humanos y las máquinas, así como el peligro de perder el control de nuestra civilización. En este sentido, por medio de un análisis se presenta una lista de recomendaciones para que los gobiernos evidencien y gestionen los peligros de la creación de sistemas avanzados de IA.

“Con mucha diferencia, el mayor peligro de la Inteligencia Artificial es que las personas concluyen demasiado pronto que la entienden”.— Eliezer Yudkowsky,

Yendo más allá, el director de investigación del Machine Intelligence Research Institute,  Eliezer Yudkowsky, publicó en la revista Times el artículo titulado “Detener los desarrollos de IA no es suficiente. Necesitamos cerrarlo todo” donde explica como la creación de una IA sobrehumana llevaría a la extinción de los humanos en la Tierra. Yudkowsky advierte que  en la actualidad no estamos preparados para desarrollar esta tecnología sin el riesgo de que esta se salga de control y pierda la sensibilidad hacia los seres humanos. La publicación concluye con la urgencia de cerrar todas las investigaciones y desarrollos en IA antes de que sea demasiado tarde.

Es importante resaltar que desde 2023 se están empezando a realizar acciones concretas para regularizar los avances en IA. En el Congreso de Estados Unidos, surgieron varios debates sobre el desarrollo de esta tecnología y se presentó la orden ejecutiva del presidente Joe Biden que exige una normatividad y un mejor grado de transparencia en la creación de IA.    

Recientemente, la Unión Europea aprobó la primera Ley de Inteligencia Artificial, donde se prohíben diversas utilizaciones de la tecnología. Por su parte, China regula la IA por medio de leyes individuales que se van promulgando con cada adelanto o aparición de nuevos productos. Se espera que en los próximos meses la Unión de Países Africanos y varios países latinoamericanos establezcan normas para regular la producción y el uso de Inteligencia Artificial. Sin embargo, es necesario que los gobiernos a nivel mundial y las instituciones globales estén al tanto y se tomen en serio las pronunciaciones de los expertos sobre los peligros de los avances en IA, para empezar a realizar acciones contundentes antes de que sea demasiado tarde.        

Mauro Sastoque Campos
Periodista, escritor y diseñador para la Comunicación Gráfica.
Virtualpro
mauro.sastoque@ingco.co

Referencias

Asimov, I. (2009). Yo robot. Editorial Edhasa.
Disponible aquí

Buitrago, M. (16 de abril de 2023). El decálogo para una política de la inteligencia artificial. Red + Noticias.
Disponible aquí

Caseres Molinero, R. (14 de abril de 2020). Máquinas como yo», de Ian McEwan, distopía sobre la inteligencia artificial. Nueva Revista.
Disponible aquí

Centro para la seguridad de la IA. (2023). Declaración sobre el riesgo de la IA.
Disponible aquí

EFE. (30 de mayo de 2023). La inteligencia artificial podría llevar a la extinción, según un grupo de expertos.
Disponible aquí

Future of Life Institute. (2023). Policymaking in the Pause.
Disponible aquí

Marr, B. (28 de julio de 2023). Estos son los 15 mayores riesgos de la IA. Forbes.
Disponible aquí

Roose, K. (31 de mayo de 2023). Los líderes del sector advierten sobre el ‘riesgo de extinción’ de la inteligencia artificial. The New York Times.
Disponible aquí

 Ryan-Mosley, T. (23 de enero 2024). Vuelta al mundo por las regulaciones de la IA en 2024. MIT Technology Review.
Disponible aquí

Yudkowsky, E. (29 de marzo de 2023). Pausing AI Developments Isn’t Enough. We Need to Shut it All Down. Time.
Disponible aquí