Los líderes mundiales alertan de los riesgos de la IA

Biden reclama una gobernanza global efectiva para la IA

El presidente de Estados Unidos, Joe Biden, ha sido tajante: «Puede que no haya mayor prueba de nuestro liderazgo que cómo abordamos la inteligencia artificial». Según el mandatario, en los próximos dos a diez años se producirán más avances tecnológicos que en los últimos cincuenta. Para Biden, la IA no solo transformará la vida cotidiana y el trabajo, también la guerra. Aunque confía en su potencial para mejorar la vida de las personas, advierte sobre los riesgos profundos que conlleva, entre los que destaca la desinformación.

El experto en IA y director del Lab Innovación, Tecnología y Gestión Pública de la Universidad Autónoma de Madrid y politólogo, Juan Ignacio Criado, concuerda con Biden en la magnitud del reto, puesto que entiende que la inteligencia artificial puede tener impacto en problemas sociales que ahora ni siquiera pensamos que sean solucionables. «Igual que la carrera por la energía atómica marcó buena parte del siglo XX, el desarrollo de la IA marca sin ninguna duda esta mitad del siglo XXI«, afirma.

En su discurso, Biden ha repasado las iniciativas de su administración en torno a la inteligencia artificial, pero subraya que representan solo «la punta del iceberg de todo lo que es necesario«. El presidente ha enfatizado la incertidumbre que impregna este tema y ha propuesto a la comunidad internacional el reto de planificar con cautela la gobernanza de la IA, con el objetivo de que sus «asombrosas capacidades» sirvan para «empoderar a las personas y no para dar a los dictadores grilletes más poderosos«.

¿Qué es la gobernanza de la inteligencia artificial?

‘Gobernanza’ es uno de los términos que más se ha escuchado estos días en la Asamblea, respecto a la inteligencia artificial. Criado aclara que este concepto se refiere a «establecer cuáles son los límites éticos, sociales y humanos que se plantean en el desarrollo de este tipo de tecnologías».  

El experto, que ha participado como relator en la Carta Iberoamericana de la Inteligencia Artificial en la Administración Pública, subraya la importancia de Global.ai, una alianza entre diferentes organismos internacionales, como el Banco Mundial, la OCDE y la Comisión Europea para tratar de establecer mecanismos de gobernanza de la IA. «Lo ideal sería que la ONU tuviera un espacio similar donde los países se comprometieran a establecer unas reglas comunes y no saltárselas», defiende, aunque reconoce la labor de la Unión Internacional de Telecomunicaciones, dentro de la ONU, que promueve el enfoque ‘inteligencia artificial para el bien’.  

Preocupación internacional por la acumulación de poder

El temor a que la IA se concentre en las manos de unos pocos inquieta a muchos de los mandatarios. Lula da Silva, presidente de Brasil, se ha referido con especial preocupación al «oligopolio del conocimiento» dentro de la industria de la IA, a la que reclama que sea «emancipadora» y no deje de lado al Sur Global.

“Que sea una herramienta para la paz, no para la guerra“

En su discurso, ha exigido que respete los derechos humanos, proteja los datos personales y promueva la integridad de la información. «Que sea una herramienta para la paz, no para la guerra. Necesitamos una gobernanza intergubernamental de la inteligencia artificial en la que todos los estados tengan un asiento».

Un mayor optimismo estaba presente en el discurso de Pedro Sánchez. Ha comparado la expansión de la IA con el descubrimiento de la escritura, la invención de la imprenta o la electricidad, que también generaron temor y desconfianza. «Lo que marca la diferencia es nuestra capacidad para embridar las riendas del progreso, para conjugarlo con una ética imprescindible en este gran salto que cambiará el mundo», ha señalado. El presidente español ha destacado la labor de los organismos internacionales y llamado a garantizar que «las decisiones sobre la IA no queden en manos de unos pocos y que su desarrollo se realice de manera ética y responsable, en beneficio de toda la humanidad».

Sin embargo, Giorgia Meloni, primera ministra italiana, se ha mostrado muy crítica con la IA a la que cuestiona su supuesta inteligencia: «el ser inteligente es el que hace preguntas, no el que da respuestas a través del procesamiento de datos». Lamenta que esta tecnología, lejos de optimizar las capacidades humanas, las reemplaza «con consecuencias dramáticas, como las estructuras verticales en el mercado laboral». Como muchos de sus homólogos, ha defendido la necesidad de una gobernanza mundial para la IA, «capaz de reconciliar la innovación, los derechos, el trabajo, la propiedad industrial, la libertad de expresión y la democracia».

El papel de la IA en un futuro sostenible

El presidente de Colombia, Gustavo Petro, ha aprovechado su intervención para relacionar el cambio climático y la IA. Teme que esta tecnología dificulte a las personas discernir entre la realidad y lo inventado. Argumenta que “incrementa la productividad económica y puede implicar la salida de millones de trabajadores”, lo que resultaría en una mayor desigualdad social. También, ha señalado su excesivo consumo energético y dependencia de combustibles fósiles. Pronostica “un armagedón, la destrucción de la democracia y la barbarie generalizada”.

En este sentido, defiende una visión alternativa. «Si logramos pasar a energías limpias para la IA y transformamos esa productividad creciente en tiempo libre, en lugar de ganancias privadas, podríamos encontrar otras claves del desarrollo mundial, sería la verdadera riqueza», ha aseverado.

Petro no es el único que ha conectado la IA con el cambio climático. Charles Michel, presidente del Consejo Europeo, ha alertado sobre el peligro de abusar de los datos personales como se ha hecho con los recursos naturales.

“Los datos y la IA son instrumentos de poder e incluso de subyugación política y dominación“

«Los datos y la IA son instrumentos de poder e incluso de subyugación política y dominación. Y ahora, armas de guerra», ha alertado. Michel ha hecho un llamamiento a la cooperación internacional para avanzar de manera efectiva en una gobernanza ética de la inteligencia artificial.

La Unión Europea es uno de los agentes fundamentales en esta cuestión. Criado explica que los actores clave son Estados Unidos y China, por lo que el papel de la UE es el de “lograr un espacio entre estos dos grandes bloques que permita una gobernanza de la IA que no nos lleve a un desastre”.

Un marco ético para la IA

La aplicación de la inteligencia artificial en el ámbito bélico ha estado presente en muchos de los discursos. Criado recuerda que, en la Convención de Ginebra, cuando se diseñaron las reglas para la guerra, todavía no existía la IA. «De eso va la gobernanza de establecer formas de hacer las cosas que permitan gestionar determinados ámbito», apunta.

Quizás por ello, la ética detrás de la IA ha sido uno de los temas centrales de la Asamblea. Incluso el representante en Nueva York de la Santa Sede, el cardenal Parolin, se ha manifestado sobre esta tecnología, que ya el Papa Francisco describió recientemente como «una herramienta emocionante y temible». Parolin ha abogado por un «marco regulador para la ética de la IA», que, entre otros asuntos, aborde «la protección de datos, la responsabilidad, los prejuicios y el impacto en el empleo».

El presidente de la República Dominicana, Luis Abinader, también ha subrayado la necesidad de «un marco de soberanía digital y ética tecnológica» que permita revolucionar distintos sectores sin transformarse en una herramienta de explotación y de exclusión. El mandatario ha insistido en garantizar su accesibilidad universal, enfoque que ha compartido el presidente de la República Francesa, Emmanuel Macron. Será París la ciudad que acogerá el próximo mes de febrero el evento AI Action Summit para abordar estas cuestiones.

Sorprende la casi total ausencia de referencias a la IA por parte del primer ministro inglés, Keir Starmer, que recientemente se ha posicionado muy a favor de esta tecnología en entrevistas. Su discurso, sin embargo, únicamente ha abordado el peligro del potencial uso militar de la IA.

Compromiso global con la inteligencia artificial

En el marco de la Asamblea, se han celebrado numerosos encuentros tecnológicos en la ciudad de Nueva York, donde representantes de distintos países han aprovechado para reafirmar su compromiso con la innovación. El primer ministro indio, Narendra Modi, ha reivindicado el papel de su país en la revolución digital y animado a las empresas a apostar por él para su expansión.

Por su parte, representantes de Arabia Saudita, Serbia, Letonia, Malta, Finlandia y Qatar han participado en conversaciones sobre las capacidades de la IA para subrayar su compromiso con la tecnología. En paralelo, diversos estados africanos han debatido en el foro ‘Unstoppable Africa’ sobre el potencial de la inteligencia artificial para transformar sus países e impulsarlos dentro de la economía global.

“Tenemos que ir hacia un modelo intermedio entre las visiones pesimistas y los sueños utópicos”, apunta Criado, como vía para conjugar la apuesta por el desarrollo y la innovación de la IA con una reflexión crítica sobre sus riesgos.