Desde bebés que "recuperan la vista" hasta recetas mágicas. Una experta advierte cómo estos productos adictivos son una verdadera trampa para el cerebro, el juicio crítico y, usualmente, una mentira deliberada.
Especialista advierte sobre deterioro cognitivo asociado a videos falsos con inteligencia artificial
Foto:
WEB El momento en que un bebé no vidente recupera su visión y ve por primera vez a su mamá es una escena que verdaderamente pone la piel de gallina. Este es quizás uno de los videos que últimamente más ha circulado, sorprendido en las redes sociales y conmovido hasta al menos desprevenido.
Sin embargo, es una muestra más de lo que puede hacer la inteligencia artificial(IA). No se trata solo de crear ilusiones e imágenes sorprendentes. Ese carrusel interminable de videos está pensado para atrapar al viajero digital, que termina siendo víctima de la adicción que provoca. Pero además de las virtudes de la inteligencia artificial aplicada con utilidad, esa pseudorealidad creada puede tener consecuencias en las conductas de las personas que creen que se trata de casos reales. Y esas consecuencias no son nada menores, sobre todo para quienes tienen más vulnerabilidades, como los niños y los adultos mayores.
Más aún, hay quienes ya están alertando sobre un “deterioro silencioso de la capacidad cognitiva” asociada a esos consumos.
“El peligro no es solo la mentira deliberada. También, y quizá más grave, el deterioro silencioso de nuestra capacidad cognitiva”, asegura Mariana Savid Saravia, psicopedagoga, especialista en Ciudadanía Digital y Neuroeducación.
En ese contexto, habla de erosión de la confianza digital, de manipulación masiva, de una economía de la atención que ya no distingue lo humano de lo sintético.
“Creo que es un fenómeno que nos presenta otro desafío y es un factor de deterioro cognitivo para todas las edades (...) esto tiene consecuencias neurológicas y cognitivas concretas”, acentúa.
Consumos rápidos y adictivos, “creo que eso es lo que más sucede, la estructura de estos videos, de sorpresa, de transformación, de final abierto, el mismo mecanismo que está detrás de todos los consumos problemáticos, la dopamina que genera y la necesidad de consumir más y más”, señala.
Lo dice mientras plantea su propia experiencia: ella, con su entrenamiento, tuvo dificultades para distinguir si un producto había sido hecho con IA
“Si a mí, que trabajo a diario con alfabetización digital crítica, me cuesta distinguir un vídeo generado por IA de una grabación real, ¿qué no les estará pasando a nuestros niños, niñas y adolescentes, que aún están construyendo su pensamiento crítico?”, plantea. Y hay que ampliar el escenario: qué pasa con los adultos mayores, definitivamente mucho menos entrenados que los chicos para moverse en el universo digital.
Ellos comparten contenidos que les llegan sin más, incluso alertas que les generan intranquilidad sin poder saber si la peligrosidad que anticipan tiene chances de ser real.
Hay videos de personas de mucha edad que, en una simulación de entrevista o documental, relatan conductas o estilos de vida impensados para sus cuerpos o que incluso parecen mucho más jóvenes de lo que dicen ser. Esto, para un adulto mayor que ya afronta desafíos físicos, puede ser frustrante o creer que debería poder hacer lo mismo, propiciándolo a adoptar conductas que podrían dañarlo o hacerlo sentir peor, incluso psicológicamente, por no lograrlo.
Hay exposiciones de supuestos médicos o gurú de la salud natural que dan recetas mágicas para dolencias o plantean modelos de estilos de vida ideales. Hay historias a modo de relatos disfrazadas de noticias, noticias que no lo son y tanto más. En realidad, hay casi lo que uno quiera, porque la carta está pensada para dar con los gustos del usuario y, más aún, que el algoritmo lo retroalimente.
“Llamémoslo por su nombre: AI Slop. Una avalancha masiva de vídeos, textos, imágenes y audios creados automáticamente, diseñados no para informar ni para educar, sino para capturar nuestra atención en los primeros tres segundos, provocar sorpresa y viralizarse”, define Savid.
Para traducirlo al idioma de no entendidos, en internet, el slop (que sería bazofia o contenido basura) es el contenido digital de baja calidad, creado de forma masiva mediante inteligencia artificial generativa. Este tipo de contenido prioriza la cantidad y la velocidad sobre el valor o la veracidad.
“Un gato que se transforma en niño. Un bebé conduciendo un coche de carreras. Un tigre que detiene un coche para pedir ayuda. Un leopardo que caza con una perfección imposible. Todo vale. Porque el objetivo no es la calidad, sino la cantidad. La economía de la atención ha llegado a un punto de no retorno: las máquinas generan hoy más contenido del que un ser humano podría consumir en toda su vida”, sostiene la experta.
Y es por eso que alerta que el peligro no es solo la mentira deliberada, sino el deterioro silencioso de nuestra capacidad cognitiva.
“Pero aquí aparece una paradoja que, como psicopedagoga, me preocupa profundamente: aunque todos coincidimos en la necesidad de regular, el Pew Research Center, organización independiente que estudia el impacto de la tecnología, señala que ‘sería bastante difícil, algunos dirían imposible, diseñar sistemas de IA éticos que se adopten de forma generalizada como norma en la próxima década”, advierte.
¿Por qué es tan difícil? Porque no existe un consenso global sobre qué significa “ética” en diferentes culturas: y para ilustrarlo menciona que lo que en un país es entretenimiento absurdo, en otro puede ser desinformación política o lo que a un adulto le parece una broma evidente, a un niño le puede parecer real.
“Así que no, no vamos a resolver esto solo con leyes. La tecnología avanza más rápido que cualquier gobierno”, subrayó.
Savid señala que no todo el contenido generado por IA es igual y refiere que hay una diferencia fundamental entre el contenido que pretende engañar: como esos deepfakes que imitan a políticos o famosos, y el que es abiertamente cómico o absurdo. “El primero enoja y manipula. El segundo, si se asume como una broma evidente, puede ser inofensivo. El problema aparece cuando esa línea se desdibuja. Cuando un menor de edad, o un adulto distraído, no sabe si lo que ve es un documental real o una ficción generada por IA”, explica.
“Y aquí llegamos al concepto que más me preocupa como neuroeducadora: el deterioro mental. Algunos investigadores ya hablan de ello. La exposición constante a contenidos que sabemos, o al menos sospechamos, que no son reales, que no son significativos, que probablemente no merecen nuestro interés, están pasando factura a nuestra capacidad de atención sostenida, a nuestra tolerancia al aburrimiento y a nuestro pensamiento crítico”, advierte. El “AI Slop” no solo engaña: nos embota. Nos acostumbra a consumir rápido, a no preguntarnos, a deslizar el dedo sin filtrar, refiere.
Es que verificar exige un esfuerzo mental, y lo que muchos temen es que, a la larga, la gente simplemente deje de comprobarlo, por cansancio, por saturación, porque es más fácil asumir que nada es real que esforzarse en averiguarlo.
Lógicamente, recalca que no se trata de volver a un pasado sin IA, porque sería imposible y hasta suma, quizás indeseable. “No demonicemos la herramienta. Pero no normalicemos la ausencia de criterio -apunta- La IA puede ser una aliada maravillosa para la educación, la creatividad y la productividad si la usamos con responsabilidad”.
Plantea que se trata de crear marcos, herramientas y hábitos que nos permitan decidir qué consumimos, cómo lo consumimos y qué valoramos como humanos.
“Porque el AI Slop no va a desaparecer. Va a multiplicarse”, anticipó
Si bien se dedica sobre todo a niños y adolescentes, aceptó que en el caso de los adultos mayores es doblemente doloroso y preocupante y consideró que se los ha dejado muy solos en esto. “Es especialmente cruel con ellos, con quienes tienen menos recursos para defenderse”, enfatizó.
Mencionó que a esa edad confluyen diversos factores: al desconocimiento sobre temas digitales se suma la pérdida de sentido crítico, porque el cerebro tiende a ahorrar energía y verificar requiere esfuerzo. Al repetirse estos consumos sin saber que son falsos, se deja de activar las áreas frontales encargadas de la duda y la verificación. Entonces, el cerebro asume que todo puede ser real. Peor aún si hay un deterioro cognitivo.
“El cerebro humano tiene un sesgo llamado verdad ilusoria, que repite algo muchas veces, aunque sea falso. Esa repetición hace que empiece a parecer verdadero”, explica. Lo que hacen estas producciones es repetir el mismo formato de realidad distorsionada y eso puede ser explotado por desinformadores.
“No podemos pedirle a un adulto mayor que aprenda a detectar deepfakes, pero sí podemos hablar con ellos, explicarles con calma y sin alarmar que existen videos hechos por computadora que parecen reales, pero no lo son, poner ejemplos sencillos, mostrarles que esto no pasó de verdad, lo hizo una máquina. Ver juntos y acompañarlos con consumos digitales”, propuso. Otra alternativa es configurar los dispositivos para reducir la aparición de este tipo de formatos.
“Lo que sí podemos hacer es tomar el control allí donde aún es posible. Existen herramientas”, asegura la profesional. Es que ante esto, la experta sostiene que la única respuesta sostenible es la educación, una alfabetización digital crítica, informacional y emocional, que empiece por los adultos.
Hay iniciativas concretas para devolver al usuario la capacidad de decidir:
Y han surgido herramientas ciudadanas como Slop Evader, que buscan devolver al usuario el poder de elegir qué consumir.
¿Qué hacer, entonces con los chicos?, propone.
Ver juntos. Compartir pantalla. Preguntar en voz alta: “¿Esto te parece real? ¿Cómo lo sabes?”. Y reconocer cuando nosotros también dudamos. Decir “no sé” es un acto pedagógico enorme.
Activar las herramientas de control. Enseñar a los hijos, y aprender uno mismo, a configurar el deslizador de TikTok, a ocultar imágenes generadas por IA, a usar el buscador DuckDuckGo, a limitar recomendaciones en Pinterest. No es una solución definitiva, pero es un gesto de toma de conciencia.
Diferenciar entre la broma y el engaño. No todo contenido sintético es malicioso. Pero hay que enseñar a detectar cuándo algo se presenta como real siendo falso. Ese matiz es clave para no caer ni en la credulidad ingenua ni en la desconfianza paralizante.
Exigir infraestructura de autenticidad. Como señalan los expertos más lúcidos: “En lugar de intentar detectar lo que es falso, necesitamos una infraestructura que permita que el contenido auténtico demuestre públicamente su origen”. Esa es una tarea colectiva de plataformas, gobiernos, instituciones educativas y sociedad en general.