¿La inteligencia artificial es neutral?

Está aceleración de la globalización y su impacto en el conocimiento y la memoria, generaron soluciones (vacunas) y problemas (complicaciones en la salud mental). Quizá el mayor desarrollo con múltiples aplicaciones ha sido la Inteligencia Artificial, que está llamada a nominar una nueva época. Así como las tecnologías nombraron muchas culturas, la alfarería, el bronce, el hierro, vamos camino a ser la civilización de la IA.

Los límites y alcance de dichos impactos recíprocos, requeriría un inventario muy nutrido. Pero señalaré que en el origen de las IA están los algoritmos, que son el ADN de todo desarrollo, donde están contenidos patrones e imágenes que hacen posible su funcionamiento. Es claro que, como producto humano, las instrucciones que se le proporcionen a la IA en estos algoritmos no pueden evitar supuestos, prejuicios, sesgos y perspectivas propias de aquellos que la generan.

Esto vale tanto para la búsqueda de datos, como en la búsqueda de información, revisión, filtrado y gestión del contenido generado por los usuarios en las plataformas digitales.

Por esta interacción constante con nuestro cerebro, inteligencia y capacidades cognitivas la IA puede impactar en las capacidades de conocer, pensar, memorizar y aún adquirir ideas y creencias anidas en sus resultados primarios.

En programación hay un concepto que debemos conocer: son los programas anidados dentro del programa principal. El "anidamiento" es el proceso de colocar eficientemente varias formas sobre un área de material para minimizar el desperdicio, como en el corte industrial.

También hay Ideas anidadas dentro del lenguaje cotidiano, hay ideas que están encerradas en otras, como mamushkas. Muy difundidas, estas muñecas tradicionales de Rusia son una figura hueca que, en su interior, presenta otra muñeca de menor tamaño, que a su vez alberga otra más chica y así sucesivamente. Con las ideas suele darse un fenómeno similar, solo que no siempre reconocemos que, dentro de una idea, puede haber otras, pero los conceptos en cuestiones importantes siempre tienen un germen de acción.

Por ejemplo, en las teorías del liberalismo, subyace la percepción que el capitalismo es un resultado que está en la naturaleza de las cosas y que es imposible ir contra las decisiones del mercado.

En la sociedad real, los datos son fundamentales para cualquier programa de IA, tanto como para la formulación de políticas públicas y servicios gubernamentales. La información sobre todas las funciones sociales que debería atender el Estado facilita el comprender los problemas, diseñar políticas y medir los resultados. Esto pone bajo la responsabilidad de la autoridad gubernamental la recopilación y el uso de datos. Una genuina preocupación por la privacidad por parte del público y la digitalización por la tecnología abrieron paso al control por parte de las bigtech de los datos personales, enmascarados como servicios o productos.

Un paso más allá, la IA ha elaborado campañas de apoyo o desprestigio destinadas a generar ilusiones de un estado de opinión pública mediante mensajes destinados a modificar las ideas u opiniones políticas de los individuos con una persuasión mayor a la de cualquier argumento humano.

Recientemente la UNESCO advierte sobre los riesgos que emergen de las neurotecnologías combinadas con la inteligencia artificial: “su potencial resultante puede convertirse fácilmente en una amenaza para las nociones de identidad humana, dignidad humana, libertad de pensamiento, autonomía, privacidad (mental) y bienestar” reconociendo sus beneficios, pero también las posibles cuestiones y problemas éticos, en particular con el uso de intervenciones no invasivas.

A diferencia de muchas otras tecnologías de frontera, la neurotecnologías puede acceder directamente, manipular y emular la estructura del cerebro, y con ello producir información sobre nuestras identidades, nuestras emociones, nuestros miedos. Al respecto señala que el desafío jurídico más profundo de nuestra época será proteger la libertad de pensamiento frente a tecnologías capaces de medir, inferir o modificar estados mentales.

El Papa Leon XIV señaló: “Los niños y adolescentes son particularmente vulnerables a la manipulación mediante algoritmos de inteligencia artificial que pueden influir en sus decisiones y preferencias. Es esencial que padres y educadores sean conscientes de estas dinámicas, y que se desarrollen herramientas para orientar y acompañar la interacción de los jóvenes con la tecnología.”

Todo esto reclama regulaciones sobre: consentimiento forzado, prohibición de usos coercitivos, límites estrictos en educación, trabajo y justicia penal, y un blindaje normativo contra vigilancia, interrogatorios, manipulación conductual y cualquier forma de control social. “No es un debate técnico: es un nuevo capítulo del derecho a la privacidad, de la autonomía personal y de las garantías en un Estado constitucional”

Cabe agregar que a veces el remedio sugerido implica también sus propios riesgos como un conjunto de iniciativas chinas diseñadas para calificar la confiabilidad de ciudadanos y empresas mediante la recompensa del buen comportamiento y el castigo del mal comportamiento. Utiliza big data, vigilancia y otros métodos para rastrear y evaluar el cumplimiento de las normativas en áreas como el pago de facturas, el comportamiento en línea y el cumplimiento legal, con el objetivo de asegurar que la población y las empresas sean "dignas de confianza". Menos conocidas y parciales, otros gobiernos hacen uso de la información de sus ciudadanos sin el necesario consentimiento de los mismos.

Volviendo a la pregunta inicial, es claro que la IA como cualquier otro instrumento tecnológico presenta dos perfiles, por el lado amable proporciona productos o servicios que son de extrema utilidad para la vida humana, por el otro lado representan un riesgo grave para la sociedad en cuanto puede influir en decisiones fundamentales para la comunidad, como para los individuos puesto que los efectos de su uso continúo modifican formas elementales de pensar, memoriza y actuar frente a cuestiones que hacen a la propia identidad personal y social.

Finalmente, la nueva cultura generada por las IA trasciende los límites nacionales y culturales regionales, pero no tiene por objetivo central el bien común global, sino que apunta a los beneficios que pueda proporcionarle el mercado.

De hecho esta cultura digital divide a la humanidad más de lo que la une. En su proyección a futuro, aun dentro de sus propios patrones, los que obtengan acceso privilegiado a datos y fuentes de información y que se beneficien de fuentes de energías, recursos naturales y humanos que no costearon son pocos. Aunque los que consumen sus desarrollos se contenten con ello. Una nueva grieta se abre frente a estas modalidades incrementando la fragilidad de los lazos que une las sociedades en una nueva versión de clases sociales, o lo que es peor individuos disgregados diferenciados por el consumo.

* El autor es licenciado en Ciencias Políticas. Doctor en Historia. Dirige el Centro Latinoamericano de Globalización y Prospectiva.