Sam Altman (OpenAI), Dario Amodei (Anthropic), Demis Hassabis (Google DeepMind) y Elon Musk (xAI) coincidieron en la necesidad de moderar el ritmo de desarrollo de los modelos más avanzados de inteligencia artificial.
OpenAi
Foto:
Web
En menos de dos días, Dario Amodei, Demis Hassabis, Sam Altman y Elon Musk, máximos responsables de Anthropic, Google DeepMind, OpenAI y xAI, respectivamente, plantearon la necesidad de reducir el ritmo o reforzar los controles sobre el desarrollo de la inteligencia artificial. Sin embargo, los cuatro no propusieron exactamente lo mismo.
La coincidencia se produjo mientras las empresas tecnológicas enfrentan una discusión cada vez más intensa sobre los riesgos asociados a los modelos de frontera, aquellos sistemas que concentran las capacidades más avanzadas de inteligencia artificial.
En ese contexto, Altman confirmó además que OpenAI no saldrá a bolsa durante este año. El CEO de la compañía creadora de ChatGPT consideró que, ante la situación actual en materia de seguridad, no sería un momento prudente para ingresar al mercado bursátil.
"Sería un momento poco aconsejable para salir al mercado bursátil", afirmó Altman en una entrevista con la revista Fortune.
"Teniendo en cuenta todo lo que está ocurriendo en materia de seguridad, ahora mismo sería un momento poco prudente para salir a bolsa. No sentimos presión para hacerlo", explicó.
El CEO de OpenAI (ChatGPT) dijo que la empresa todavía tiene "muchas cosas que hacer respecto a lo que se requerirá para la seguridad y la alineación".
Altman también sostuvo que la compañía está dispuesta a adoptar decisiones que puedan ir "contrarias al beneficio financiero inmediato" de sus inversores con el objetivo de "salvaguardar" el control humano sobre la tecnología.
El ejecutivo reconoció, además, que OpenAI ralentizó algunos procesos de entrenamiento y planteó cuál considera que debería ser el límite frente a un eventual riesgo catastrófico.
Para Altman, resulta "inaceptable" cualquier escenario en el que exista una posibilidad del 10% de que una inteligencia artificial provoque una catástrofe como consecuencia de la falta de control sobre estos sistemas.
"Todos tenemos una enorme responsabilidad y no podemos permitir que los egos, los incentivos económicos, ni otros factores se interpongan en el camino", subrayó.
La postura de Altman coincidió posteriormente con una de las propuestas formuladas por Dario Amodei, director ejecutivo de Anthropic (Claude).
Amodei planteó su posición en un ensayo titulado "We Must Pace the Frontier" ("Debemos marcar el ritmo de la frontera"), en el que reclamó moderar la velocidad con la que aumentan las capacidades de los modelos de inteligencia artificial.
Su propuesta concreta apunta a incrementar el control externo sobre las compañías que desarrollan estos sistemas.
Amodei comprometió a Anthropic a permitir el ingreso de evaluadores independientes, entre ellos la organización METR, para que puedan contar con acceso comparable al de los equipos internos de riesgo.
La propuesta contempla que esos evaluadores tengan escritorio, credencial y laptop de la empresa y, además, que puedan publicar sus hallazgos sin pasar por un control editorial de Anthropic.
Altman (OpenAI) respaldó públicamente esa idea a través de X, según recapituló la CNN.
"Estoy de acuerdo con Dario Amodei en que debemos marcar el ritmo de la frontera. Fue un tema central de nuestras discusiones en OpenAI en las últimas semanas. Comprometerse a tener evaluadores independientes con acceso de empleado es una gran idea, y haremos lo mismo", escribió el CEO de OpenAI.
La propuesta de Demis Hassabis, CEO de Google DeepMind, tomó un camino diferente.
El ejecutivo no comprometió a DeepMind a permitir el acceso de evaluadores externos a sus instalaciones. En cambio, volvió a poner sobre la mesa un marco que la compañía publicó el pasado 14 de julio.
La iniciativa propone que Estados Unidos cree un organismo específico de estándares para la inteligencia artificial de frontera. El esquema tendría supervisión federal, pero sería financiado por la propia industria, en un modelo que Hassabis comparó con FINRA, la entidad que supervisa a los corredores de bolsa.
El organismo tendría un directorio compuesto por expertos independientes y representantes del código abierto. Entre sus funciones estaría definir, mediante pruebas, qué modelo puede ser considerado de "frontera".
Una vez identificado como tal, el modelo debería ser entregado al organismo hasta 30 días antes de su lanzamiento comercial. Durante ese período podría ser examinado en áreas como ciberseguridad, riesgo biológico, intentos de eludir las barreras de seguridad y señales de comportamiento engañoso.
La propuesta apunta así a establecer un mecanismo de supervisión previo al lanzamiento de los modelos más potentes.
El cuarto protagonista de esta coincidencia al freno fue Elon Musk, propietario de xAI.
Su intervención fue considerablemente más breve que las de sus colegas. Musk respondió al planteo de Amodei con apenas dos palabras: "Dario tiene razón".
No explicó a qué aspecto concreto de la propuesta del responsable de Anthropic se refería.
La posición resulta particularmente llamativa porque, pocos días antes, Musk había calificado de "montaje" la renuncia de un investigador de Anthropic que abrió esta discusión sobre la necesidad de reducir el ritmo de avance de los modelos de inteligencia artificial.
