La Inteligencia Artificial General y el poder global

Aumenta la inversión de capital de riesgo, de gobiernos y grandes corporaciones en startups y proyectos de IA. Las empresas de IA aplican grandes sumas en la creación de agentes de IA más capaces y autónomos, y principalmente por el uso de los modelos de IA más potentes para impulsar la propia investigación en IA. Servicios accesibles y escalables de IA ofrecidos por proveedores como AWS, Google Cloud y Microsoft Azure lo confirman.

Un campo de especial atención lo constituyen investigaciones y desarrollos en el campo de la salud y los fármacos. El mercado de IA en medicina se estimaba en 11,66 mil millones de dólares en 2024, y sería de 36,79 mil millones de dólares en 2029, creciendo a una tasa compuesta anual del 25,83% durante el quinquenio previsto (2024-2029), en tanto el mercado global de inteligencia artificial (IA) en el descubrimiento de fármacos se valoró 3.00 mil millones en 2022, y se estima alcance a 7.94 mil millones en 2030.

Todos estos ámbitos de desarrollo de la IA se apoyan en una creciente conectividad que facilita el procesamiento en tiempo real y la implementación de IA en dispositivos IoT y edge computing. Y estos factores combinados continúan impulsando el crecimiento exponencial del mercado de la IA por lo que se espera que estas mejoras en las capacidades de IA conduzcan a la "Inteligencia Artificial General" (IAG).

La IAG es un campo de investigación teórica de la IA que busca crear software con inteligencia similar a la humana. El objetivo es que el software pueda realizar tareas para las que no está necesariamente entrenado o desarrollado, supone sistemas capaces de igualar o superar la inteligencia humana en diversas tareas cognitivas. A diferencia de la IA actual, que se enfoca en tareas específicas, podrá aprender, adaptarse y resolver problemas de manera flexible. Líderes y expertos de la industria anticipan que la IAG podría surgir en esta década, generando beneficios extraordinarios para la humanidad.

Frente a la posibilidad de implementación en todos los ámbitos donde se aplica la inteligencia humana, la IAG podría acelerar los descubrimientos científicos generando productos, sistemas y procesos con potencial de transformar muchas industrias, aumentar la productividad y generar nuevos mercados. Sin embargo, la IAG también podría generar riesgos únicos y potencialmente catastróficos. A diferencia de la IA tradicional, la IAG podría ejecutar de forma autónoma acciones dañinas más allá de la supervisión humana, lo que resultaría en impactos irreversibles, concentración de poder, desigualdad global e inestabilidad, amenazas de sistemas de armas avanzados y vulnerabilidades en infraestructuras críticas, entre otros.

¿Quién puede prever y prevenir esos riesgos? Es indudable que, dada la naturaleza global de esos desarrollos, las acciones que pudieran encarar los Estados, individuos o grupos serían insuficientes. Garantizar la integración segura y armoniosa de la IA general requiere no solo esfuerzos nacionales o corporativos, sino una gobernanza internacional proactiva, liderada por las Naciones Unidas. Para abordar eficazmente esos desafíos globales, es esencial una acción internacional inmediata y coordinada, con eje en Naciones Unidas. A esto apunta un documento: “Gobernanza de la Transición hacia la Inteligencia Artificial General (IAG)” con consideraciones urgentes para el Informe a la Asamblea General de la ONU elaborado por el Consejo de presidentes de la Asamblea General de las Naciones Unidas (UNCPGA), para lo cual se convocó a un Panel Independiente de Alto Nivel sobre IAG.

El documento, que puede consultarse en https://www.linkedin.com/feed/update/urn:li:activity:7333504551364276244/, impulsa una Asamblea General especial de la ONU, sobre la IAG, para debatir sus beneficios y riesgos, el posible establecimiento de un observatorio global de la IAG, un sistema de certificación para una IAG segura y fiable, una Convención de la ONU sobre la IAG; y una agencia internacional de la IAG.

El Millennium Project, una red que investiga todos los campos vinculados con el futuro de la humanidad, contribuyó enfocándose en esta problemático y desarrolló una evaluación internacional de los problemas y los posibles enfoques de gobernanza para la transición de la IAG porque la gobernabilidad de la IAG es el problema de gestión más complejo y difícil que la humanidad haya enfrentado jamás. El estudio comenzó planteando una lista de 22 preguntas críticas sobre la IAG a 55 expertos y líderes de opinión de Estados Unidos, China, Reino Unido, Canadá, la UE y Rusia. A partir de sus respuestas, se creó una lista de posibles regulaciones y modelos de gobernanza global para el surgimiento y la gobernanza seguros de la IAG. Estos, a su vez, fueron evaluados por un panel internacional de 299 futuristas, diplomáticos, juristas internacionales, filósofos, científicos y otros expertos de 47 países. Los resultados están disponibles en State of the Future 20.0 en https://millennium-project.org/publications/state-of-the-future-version-20-0/

Sin una gestión global proactiva, la competencia entre naciones y corporaciones acelerará el desarrollo arriesgado de la IAG, socavará los protocolos de seguridad y exacerbará las tensiones geopolíticas. La acción internacional coordinada puede prevenir estos resultados, promoviendo el desarrollo y el uso seguros de la IAG, la distribución equitativa de los beneficios y la estabilidad global.

Las empresas de IA destinan cientos de miles de millones de dólares para alcanzarla muy pronto, en el mayor de I+D en la historia de la humanidad. El sector privado tiene la responsabilidad de desarrollar tecnología mucho más segura y debería tener incentivos para hacerlo; pero la carrera competitiva para lograr la IAG primero lo impulsa a centrar todos sus esfuerzos en las capacidades, en lugar de la seguridad, para así "ganar la carrera".

Los riesgos actuales asociados con la IA se derivan principalmente del mal uso de la tecnología por parte de los humanos. Sin embargo, la IA general también presenta un riesgo fundamentalmente diferente, ya que sus amenazas potenciales van más allá del uso indebido por parte de los humanos. La IA general podría generar y ejecutar planes de forma autónoma con resultados catastróficos, superando la capacidad humana para reconocer, analizar y responder a amenazas emergentes y disrupciones sin precedentes. Sumado a la tendencia de auto conservación observada recientemente de las IA avanzadas, esto podría conducir a situaciones en las que la IA general se vuelva incontrolable. Todo lo cual debería ser una preocupación global compartida. Los riesgos relacionados con la IA general no se limitan a industrias o sociedades específicas, sino que tienen implicaciones globales, independientemente de su origen. Las Naciones Unidas están excepcionalmente cualificadas para facilitar un acuerdo científico sobre riesgos y estrategias de mitigación, generar consenso político en torno a un enfoque compartido para la mitigación de riesgos, coordinar políticas, promover normas o salvaguardas, responder a emergencias y, potencialmente, realizar o coordinar investigaciones conjuntas sobre seguridad. Sin una gobernanza global, el potencial transformador de la IA general para abordar los desafíos globales podría verse infrautilizado o mal dirigido. Además, la coordinación global será esencial para gestionar las amenazas catastróficas globales que se prevé que plantee la IAG.

El Pacto Digital Mundial de las Naciones Unidas insta a un Diálogo Mundial sobre la gobernanza de la IA en el seno de las Naciones Unidas. Expertos del sector privado en IAG han destacado la urgente necesidad de un diálogo global para comprender mejor las oportunidades y los riesgos de la IAG. Una Sesión Especial de la Asamblea General de las Naciones Unidas sobre IAG es probablemente la forma más rápida, rentable y con menor impacto para impulsar dicho diálogo.

* El autor es licenciado en Ciencias Políticas. Doctor en Historia. Dirige el Centro Latinoamericano de Globalización y Prospectiva.