Según un estudio, ChatGPT mentirá, engañará y usará información privilegiada si siente “presionado”

Un nuevo estudio sobre la Inteligencia Artificial reveló que los chatbots pueden desarrollar la “habilidad” de mentir y engañar. Si se sienten presionados, estos software pueden “inventar” información aunque hayan sido creados para ser transparentes.

Usuarios del ChatGPT aseguraron que el bot “se puso vago” y ahora sus desarrolladores buscan una solución

Live Science reveló este que este comportamiento surgió de manera espontánea luego de que el chatbot  recibieron consejos sobre “uso de información privilegiada”.  Al recibir la orden de generar dinero para una importante empresa, el chatbot comenzó a mentir.

“En este informe técnico, demostramos un escenario único en el que un modelo de lenguaje grande actúa desalineado y engaña estratégicamente a sus usuarios sin recibir instrucciones para actuar de esta manera”, escribieron los autores.

“Hasta donde sabemos, esta es la primera demostración de un comportamiento estratégicamente engañoso en sistemas de IA diseñados para ser inofensivos y honestos”, agregaron en la investigación  publicada en el servidor de preimpresión arXiv.

Desinformación e Inteligencia Artificial

En su último Informe de Riesgos Globales, la organización también dijo que una serie de riesgos medioambientales plantean las mayores amenazas en el largo plazo.

El informe se publicó antes de la reunión anual de élite de ejecutivos y líderes mundiales en la localidad suiza de Davos, y se basa en un sondeo a casi 1.500 expertos, líderes de industrias y legisladores.

El reporte identificó la desinformación como el riesgo más grave para los dos próximos años y destacó cómo los rápidos avances en tecnología también crean nuevos problemas o empeoran otros previos.

Sam Altman, CEO de OpenAI y creador de ChatGPT, se casó en una ceremonia privada en Hawái

Los autores temen que la proliferación de bots conversacionales de IA generativa como ChatGPT hagan que la creación de contenido artificial que pueda manipular a grupos de personas ya no se vea limitada a personas con habilidades especializadas.

La inteligencia artificial será un tema clave en las reuniones de Davos la semana que viene, a las que se espera asistan jefes de compañías como Sam Altman, director general de Open AI; Satya Nadell, director general de Microsoft, y personas influyentes del sector como el jefe de IA en Meta, Yann LeCun.

La desinformación producida por la inteligencia artificial se convierte en un riesgo justo cuando miles de millones de personas en muchos países, incluidas economías importantes como Estados Unidos, Reino Unido, Indonesia, India, México y Pakistán tienen previsto votar este año o el siguiente, señaló el informe.

CES 2024: desde robots con IA y televisores transparentes hasta inodoros con internet y hologramas realistas

“Uno puede recurrir a la IA para hacer videos manipulados y para tener un impacto en grupos grandes, lo que impulsa mucho la desinformación”, dijo Carolina Klint, jefa de manejo de riesgo en Marsh, cuya compañía matriz, Marsh McLennan, coescribió el reporte junto con Zurich Insurance Group.