Un investigador de inteligencia artificial que trabajó durante años en OpenAI y que recientemente se incorporó a Anthropic (Claude) decidió renunciar y lanzó una dura advertencia sobre el rumbo que están tomando las principales compañías del sector.
Jacob Coxon hizo un duro posteo en redes sociales sobre el peligro de la inteligencia artificial y quienes la desarrollan "jugando con nuestras vidas".
Renunció a Anthropic y admitió que la IA "que podría matarnos a todos a fines de la década"
Foto:
IA
Un investigador de inteligencia artificial que trabajó durante años en OpenAI y que recientemente se incorporó a Anthropic (Claude) decidió renunciar y lanzó una dura advertencia sobre el rumbo que están tomando las principales compañías del sector.
Jacob Coxon, de 27 años, dijo que ambas empresas avanzan de manera irresponsable hacia una inteligencia artificial capaz de superar ampliamente las capacidades humanas y de mejorarse a sí misma.
“Creo que ambas empresas están jugando con nuestras vidas”, escribió Coxon al comunicar su salida en un posteo de X que se hizo viral.
Según su visión, tanto OpenAI como Anthropic “corren derecho hacia una superinteligencia capaz de mejorarse a sí misma y apuestan con nuestras vidas”.
Coxon trabajó durante tres años en el área de preentrenamiento, la etapa en la que los modelos de inteligencia artificial aprenden a partir de enormes cantidades de datos. De acuerdo con Business Insider, formó parte del equipo técnico de OpenAI desde 2023 hasta julio de 2026 y participó en trabajos vinculados con GPT-4o. Luego se incorporó a Anthropic, en parte atraído por la reputación de la compañía en materia de seguridad de la inteligencia artificial.
Sin embargo, su paso por ambas empresas terminó llevándolo a cuestionar el ritmo de desarrollo de esta tecnología.
En una publicación en X, Coxon advirtió que el mundo no debería subestimar la velocidad con la que avanza la inteligencia artificial.
“Pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales”, escribió. Y agregó que la sociedad ya fue testigo de avances en cada uno de esos ámbitos y que, según su percepción, “este progreso no se está ralentizando”.
Su principal preocupación está relacionada con el desarrollo de una eventual superinteligencia artificial. Se trata de un escenario hipotético en el que los sistemas de IA superarían ampliamente las capacidades intelectuales humanas y podrían, además, desarrollar versiones más avanzadas de sí mismos.
Coxon sostuvo que tanto Anthropic como OpenAI avanzan “a toda velocidad hacia la superinteligencia automejorable”. El concepto plantea la posibilidad de que un sistema sea capaz de contribuir al desarrollo de un sucesor más potente, generando un ciclo de mejora cada vez más acelerado.
Una de las respuestas más llamativas a las declaraciones de Coxon llegó desde la propia Anthropic.
Evan Hubinger, responsable de investigación relacionada con la alineación de la inteligencia artificial con los objetivos y valores humanos, respaldó públicamente parte de sus advertencias.
Hubinger no renunció a la compañía, pero coincidió con Coxon en la gravedad del riesgo.
“Jacob tiene razón: creemos sinceramente que la IA podría acabar con todos los humanos”, afirmó.
Además, estimó que existe una probabilidad superior al 10% de que un escenario de ese tipo ocurra durante la próxima década. Según Hubinger, todavía no existe un plan que permita garantizar que una eventual superinteligencia permanezca alineada con los objetivos humanos.
La cifra no representa una predicción científica de que la humanidad vaya a desaparecer, sino una estimación sobre un riesgo hipotético que algunos investigadores consideran necesario tomar en cuenta a medida que aumentan las capacidades de los modelos.
Coxon fue incluso más directo en una publicación posterior: “Quienes desarrollan la IA creen firmemente que podría matarnos a todos para finales de la década”.
