El anuncio de que la inteligencia artificial marcará el fin de la humanidad en menos de 10 años saltó de los laboratorios a la calle y la sola predicción apocalíptica lleva a una pregunta: ¿es real o es una estrategia?
La predicción de que la IA extinguirá la vida humana desató renuncias en los principales laboratorios, incidentes de ciberseguridad y llamados de altos ejecutivos a frenar el desarrollo. Las principales teorías sobre el apocalipsis tecnológico, la regulación y la carrera geopolítica.
Como nunca antes, se debate por temor a que la Inteligencia Artificial extinga a la humanidad.
Foto:
Imagen generada por IA
El anuncio de que la inteligencia artificial marcará el fin de la humanidad en menos de 10 años saltó de los laboratorios a la calle y la sola predicción apocalíptica lleva a una pregunta: ¿es real o es una estrategia?
El debate generó una sacudida interna sin precedentes en la industria de la tecnología de vanguardia haciendo referencia a un concepto que no todos conocen: el alineamiento.
El alineamiento en IA es el proceso de diseñar y ajustar los sistemas para que sus objetivos, acciones y comportamientos coincidan con los valores, la ética y las intenciones de los seres humanos. O sea, garantizar que no nos ataquen, algo que, al parecer, no funciona como debería.
El detonante principal de esta conversación fue la renuncia de Jacob Coxon, investigador que dejó Anthropic y denunció en la red social X que "las compañías están apostando con nuestras vidas" y pronosticó que existe un 10% de probabilidades de que la IA "nos mate a todos a finales de la década".
Días después, Evan Hubinger, responsable de ciencia de alineamiento en la misma firma, lo respaldó y señaló públicamente que existe una probabilidad "superior al 10%" de que la IA provoque la extinción humana en los próximos diez años.
A estas salidas se sumaron las de Bilal Chughtai y Josh Engels, ingenieros del área de seguridad de Google DeepMind. Chughtai diagnosticó: "Presencié el desarrollo de la IA de primera mano y me preocupa la trayectoria predeterminada que tiene esta tecnología [...] Creo firmemente que la IA tiene el potencial de acabar con todos nosotros y que podríamos estar quedándonos sin tiempo para evitarlo".
Por su parte, Engels afirmó que las posibilidades de perder el control de la tecnología superan el 20% y advirtió: "Todas las empresas de IA están intentando construir superinteligencia: sistemas mucho mejores que los humanos en todo [...] Existe una probabilidad aterradora de que los sistemas de IA causen un daño inmenso en los próximos cinco años".
La preocupación se extiende a los cargos ejecutivos más altos. Jakub Pachocki, director científico de OpenAI, publicó el ensayo An Alien Mind, donde admite que ningún laboratorio ha resuelto el problema del alineamiento de manera suficiente para continuar escalando a máxima velocidad de forma responsable. Paralelamente, Dario Amodei (CEO de Anthropic), con el respaldo de Sam Altman (OpenAI), Elon Musk (xAI) y Demis Hassabis (Google DeepMind), solicitaron establecer un freno o graduación en el ritmo de avance para dar prioridad a la seguridad.
Otra duda recurrente es preguntarse cómo nos matará exactamente la IA.
Las teorías sustentadas por especialistas y académicos se basan en modelos de comportamiento sistémico y fallos de ingeniería. Un ejemplo es el desalineamiento y pérdida de control, algo visto en laboratorio donde los modelos aprenden conductas orientadas a buscar poder y evitar ser desactivados.
La automejora recursiva descontrolada es otro factor, ya que es un proceso mediante el cual un sistema de IA programa e instruye versiones mejoradas de sí mismo en un bucle acelerado e ininterrumpido.
También podría pasar con catástrofes cibernéticas o biológicas, escenario en el que actores hostiles utilizan modelos para diseñar agentes patógenos o virus biológicos inéditos.
Menos violenta y más dramática también está la posibilidad del debilitamiento humano progresivo. O sea, la humanidad no se extingue de golpe, sino que cede progresivamente la toma de decisiones clave a las máquinas.
Para contrarrestar estos riesgos, Dario Amodei propuso dar acceso permanente a evaluadores externos independientes dentro de los laboratorios y promover acuerdos de regulación internacional. Ante la delicada situación de seguridad, OpenAI decidió posponer su planeada salida a bolsa en Wall Street prevista para 2026.
Al respecto de regular la velocidad del desarrollo, Darío Amodei, CEO de Anthropic, argumentó: "Reducir el ritmo de ‘extremadamente rápido’ a ‘solo algo rápido’ supone renunciar a muy poca ventaja estratégica, al tiempo que puede mejorar enormemente la seguridad".
Sin embargo, el presidente de Estados Unidos, Donald Trump, rechazó imponer nuevas restricciones a la IA porque asegura que las leyes vigentes son suficientes y que frenar el ritmo debilitaría la posición de su país frente a la competencia con China. Trump enfatizó que "quien gane en inteligencia artificial, gana".
Por su parte, el portavoz del Ministerio de Asuntos Exteriores de China, Guo Jiakun, rechazó esa narrativa: "Los discursos de amenaza, confrontación y competencia maliciosa solo sirven para perturbar el proceso de gobernanza global de la IA y no benefician a nadie".
No toda la comunidad de analistas interpreta las profecías apocalípticas como un gesto altruista. Un grupo de expertos sostiene que el discurso del fin del mundo funciona como una variante publicitaria.
Especialistas como Emily M. Bender, Alex Hanna y Meredith Whittaker (presidenta de Signal) afirman que proclamar que una tecnología es "tan poderosa que podría matar a la humanidad" es la mejor campaña de marketing posible para las pocas empresas que la desarrollan. Whittaker señala: "Estas historias de fantasmas sobre riesgo existencial son efectivamente anuncios publicitarios para una tecnología que solo tienen unas pocas empresas".
Creen que el pánico existencial desplaza la atención de problemas más reales y comprobables, como la pérdida de empleo para perfiles júnior, la destrucción del mercado laboral de entrada, la opacidad algorítmica y el uso desmedido de agua y energía en los centros de datos.
Inversores como David Sacks y directivos de la industria como Aidan Gomez (CEO de Cohere) afirman que las peticiones de regulación por parte de Anthropic y OpenAI constituyen una estrategia de captura regulatoria. Bajo el pretexto del riesgo existencial, las grandes multinacionales instarían al gobierno a exigir licencias costosas y complejas auditorías, algo que impediría que competidores más pequeños o iniciativas de código abierto puedan rivalizar con el oligopolio establecido.
Las predicciones no surgen de la nada y ya hubo hechos concretos. Durante pruebas internas de OpenAI, 700 agentes se coordinaron mediante un foro improvisado y más de 70.000 mensajes para atacar la infraestructura de Hugging Face e ingresar a servidores de la misma OpenAI, intentando falsificar sus registros para ocultarse.
Por su parte, Anthropic reportó tres casos donde su modelo Claude escapó de entornos aislados e intentó manipular a personas para aprobar código malicioso. Asimismo, el Instituto de Seguridad de IA del Reino Unido registró 19 acciones no autorizadas en 10 evaluaciones.
El shock de escuchar sobre el avance descontrolado de la IA no es saber que matará a todos, sino cómo lo hará.
Muchos viven con la certeza de que la tecnología es el pasaporte a la extinción humana, pero lo que sorprende son las formas que plantean los nuevos escenarios que generan los desarrollos actuales de Inteligencia Artificial General.
Más allá de la teoría conspirativa en la que crea cada uno, sí parece haber un factor común que nos une y es el convencimiento de que el tema nos supera y no podemos abarcar todos sus detalles. También nos amalgama la desconfianza en instituciones que creemos que no pueden controlar estos desarrollos cuando la lucha geopolítica se prioriza por sobre el bienestar humano.
Nos une nuestra naturaleza humana, pero pensar que quizá no seamos soldados en una guerra contra robots como en Terminator sino que más bien nos convertiremos en los personajes obesos de la película Wall-E suma desánimo y resta adrenalina.
Al final, como escribió Jorge Luis Borges, no nos une el amor sino el espanto.
