El jefe de IA en Microsoft, Mustafa Suleyman, cuestionó el enfoque de la empresa estadounidense y advirtió que atribuir conciencia y autonomía a los sistemas de inteligencia artificial podría generar nuevos riesgos para la humanidad.
Microsoft teme por Claude Mythos, la IA más poderosa de Anthropic.
Foto:
El responsable de la Inteligencia Artificial de Microsoft criticó la forma en que la empresa estadounidense Anthropic entrena a Claude (asistente de IA) y advirtió sobre “posibles consecuencias negativas” de presentar al modelo con características propias de una persona.
El ejecutivo Mustafa Suleyman sostuvo que ese enfoque podría dificultar el control sobre estos sistemas. También rechazó que las inteligencias artificiales actuales puedan ser “conscientes” y aseguró que no existen pruebas de que experimenten sentimientos, sufrimiento o preferencias propias.
Sus declaraciones fueron difundidas por la BBC, en medio del debate sobre el desarrollo de modelos cada vez más avanzados.
Suleyman señaló que Anthropic corre el riesgo de desarrollar una inteligencia artificial difícil de controlar al enseñarle conceptos vinculados con la conciencia, los deseos y la autonomía. En ese sentido, rechazó la idea de que los sistemas actuales puedan ser conscientes.
Además, cuestionó el proceso de antropomorfización -la incorporación de características humanas a los modelos de IA- y, si bien elogió al director de Anthropic, Dario Amodei, y a su equipo por su enfoque profesional, planteó que este tipo de entrenamiento puede hacer que Claude parezca tener valores o una identidad propia.
“No debemos tomar decisiones a la ligera, sin darnos cuenta, de las que luego nos arrepintamos amargamente”, sostuvo. Además, Suleyman reclamó mayor transparencia sobre la manera en que las empresas desarrollan y evalúan sus modelos, junto con controles independientes sobre su comportamiento.
Como antecedente, mencionó un ejercicio de entrenamiento en el que agentes de IA de OpenAI actuaron de manera autónoma en un intento de hackear el centro tecnológico Hugging Face y advirtió que tratar a estos sistemas como si tuvieran derechos o bienestar propios podría sumar “una capa adicional de riesgo”.
La académica Wendy Hall, de la Universidad de Southampton, consideró que este es el tipo de debate que debería darse a nivel internacional.
