De consumir mentiras a crearlas: se multiplican las herramientas para armar y compartir contenido falso

Los usuarios de redes sociales no solo consumen contenido falso sino que también los crean al compartir imágenes alteradas.
Los usuarios de redes sociales no solo consumen contenido falso sino que también los crean al compartir imágenes alteradas.

Desde filtros hiperrealistas a chats inventados, varias apps ofrecen generar publicaciones apócrifas. A diferencia de las fake news, muchos valoran audios, fotos o videos a sabiendas de que no son reales.

La realidad como hecho objetivo ha sido cuestionada por la filosofía durante siglos y, de forma más banal, la cultura actual parece darle la razón a quienes consideran que no es más que una construcción subjetiva.

Las redes sociales se han llenado de contenido que no es real, pero el rango de esa falsedad se ha ampliado. Ya no solo hay contenido con datos tergiversados para desinformar sino también publicaciones intencionalmente irreales para entretener o desarrollar ficción.

El eje de esta “evolución” es la democratización de las herramientas para alterar fotos, audios o videos, que pasaron de ser tecnología restringida y experimental a entretenimiento popular y gratuito gracias a las apps y sitios web.

La única verdad no es la realidad

La máxima de que “una imagen vale más que mil palabras” pierde cada vez más sentido en la forma que creamos y consumimos contenidos. Cada vez más seguido surge un desarrollo sorprendente y fácil de utilizar.

Los más recientes están enfocados en crear personas que no existen o armar video con caras conocidas en situaciones extrañas.

Un ejemplo impactante surge del sitio thispersondoesnotexist.com. Y tal como suena cumple lo que promete porque nos entrega una foto de una persona que no es real aunque cueste creerlo. Esto es posible gracias a un algoritmo de inteligencia artificial llamado Redes de Confrontación Generativa (GAN).

Este sitio en particular fue creado por Phillip Wang, un ingeniero de software en Uber, quien tomó un algoritmo de Nvidia y lo modificó para crear StyleGAN. Así, en su web demuestra lo sencillo que es crear un rostro falso y sin que el usuario intervenga.

Lo que hace es similar a lo que ya existe con los influencers virtuales que venden productos en Instagram pero que no son personas reales o los famosos Deepfakes, que son videos alterados de personas reconocidas haciendo cosas impensadas.

El creador de efectos visuales Chris Ume -cuyo nombre de usuario es vfxchrisume- es uno de los más populares porque comparte videos donde se ve al actor Tom Cruise en situaciones que llevan a más de uno a pensar que son reales.

Aunque su tecnología es sofisticada, hay otras más al alcance de la mano, un poco más rústicas pero igual de entretenidas e impactantes.

Aplicaciones como Reface, FaceJoy o FacePlay permiten insertar nuestra cara en otras fotos y videos para combinarlas con clips de películas o series, armar memes o añadir filtros.

Otra reconocida es Wombo, una app que le da vida a las selfies convirtiéndolas en videos cortos animados y divertidos.

En una línea similar está Deep Nostalgia, una herramienta dentro del sitio MyHeritage que permite animar fotos. Es furor por darle unos segundos de vida a fotos antiguas permitiendo obtener un video de alguien sonriendo o moviendo la cabeza.

Todas estas herramientas son gratuitas y están disponibles para usuarios de iOS y Android.

Una conversación irreal

Otra de las herramientas más populares es la que permite crear una conversación de WhatsApp que nunca existió pero obtener igualmente una captura de pantalla muy realista. Esto lo hace posible Fake WhatsApp Chat Generator, un sitio para armar mensajes pero también agregar detalles como la hora, si fueron leídos o no, el nivel de batería, el nombre de la empresa de telefonía o si se usó conexión WiFi o 4G y más. “Es casi imposible notar la diferencia entre un chat real y un FakeWhats Generator Chat”, promociona el mismo sitio, que además es gratuito.

La finalidad de la herramienta no es clara y puede tener varias funciones. Así hay quienes la usan como entretenimiento para fingir que chatean con algún famoso pero también están los que la utilizan como soporte literario para narrar ficciones breves. El problema es que el nivel de realismo de una conversación creada también ha sido usado para acusar falsamente de acoso o violencia a otras personas.

Fake WhatsApp Chat permite armar mensajes detallados en la app como si fueran reales.
Fake WhatsApp Chat permite armar mensajes detallados en la app como si fueran reales.

Pero no solo las conversaciones escritas son falsas. En breve también lo serán las orales si avanza un proyecto de Amazon para que su asistente, Alexa, imite la voz de algún ser querido que haya fallecido.

El proyecto aún está en fase experimental y no se limita solo a los muertos sino a cualquier persona. “Esto requirió inventos en los que tuvimos que aprender a producir una voz de alta calidad con menos de 1 minuto de grabación frente a horas de grabación en el estudio”, explicó Rohit Prasad, vicepresidente senior y director científico de Alexa durante la conferencia Re:Mars de Amazon realizada en Las Vegas hace pocas semanas.

“La forma en que lo hicimos posible fue enmarcando el problema como una tarea de conversión de voz y no como una ruta de generación de voz. Sin duda, estamos viviendo en la era dorada de la IA, donde nuestros sueños y la ciencia ficción se están convirtiendo en realidad”, agregó Prasad.

Todavía no hay fecha de salida para los usuarios de los dispositivos de Amazon pero ya genera preocupación sobre el impacto que podría tener. El director científico reconoció en diálogo con los medios que queda evaluar las consecuencias del proyecto, pero se mostró entusiasmado con el desarrollo que parece ciencia ficción.

Los usuarios de redes sociales no solo consumen contenido falso sino que también los crean al compartir imágenes alteradas.
Los usuarios de redes sociales no solo consumen contenido falso sino que también los crean al compartir imágenes alteradas.

Herramientas similares ya existen y se pueden probar. Por ejemplo, descript.com/overdub permite a un usuario leer una serie de textos y después el software ya podrá leer cualquier escrito utilizando su voz. Por el momento está solo en inglés, pero permitiría a alguien crear, por ejemplo, un audio o un podcast con solo escribirlo. Otra web ofrece algo similar pero con voces ultrarrealistas creadas por una inteligencia artificial. El sitio es listnr.tech y permite elegir la entonación o los tiempos de las pausas. El resultado es bastante natural y no tan robótico como los de otras webs.

¿Ver para creer?

A diferencia de las fake news que muchos comparten ignorando que es una información falsa, otros tantos consumen y crean contenido sabiendo que no es real.

Casi nadie sube una selfie sin corregir o comparte una foto sin editar. Desde la pose hasta el filtro, todo nuestro contenido pasa por algún retoque y desata un nuevo cuestionamiento sobre si tenemos la capacidad de diferenciar qué es real y qué no.

Bearded Cutie es un filtro popular en TikTok entre hombres que resalta rasgos masculinos en videos.
Bearded Cutie es un filtro popular en TikTok entre hombres que resalta rasgos masculinos en videos.

“El problema que tenemos ahora para distinguir una imagen real de una falsa es que todas las imágenes son falsas. Las fotos que hace un móvil pasan por un proceso y una serie de filtros que antes no existían. Se crean desenfoques, se cambian sonrisas, Se arma la cara que mejor funciona de 10 fotos tomadas, etc. O sea, esta novedad tecnológica hace que ahora mismo distinguir una imagen real de una falsa sea imposible porque todas son falsas”, explicó Alejandro Pérez, técnico en efectos visuales al canal alemán DW.

Cómo distinguir lo falso de la real

Así como mencionamos una decena de opciones para generar contenido falso, también hay varias herramientas que permiten verificar la veracidad de una imagen o video. Las más conocidas utilizan el método de imagen reversa, o sea que en vez de poner información para buscar una foto, se coloca una imagen para ver sus datos. Eso se puede hacer en Google, en el sitio Yandex o en TinEye para ver cuántas veces y dónde se publicó una foto. Otra opción más profunda es Forensically, una herramienta que hace un examen forense a una imagen para revelar cuánta manipulación tuvo.

Tenemos algo para ofrecerte

Con tu suscripción navegás sin límites, accedés a contenidos exclusivos y mucho más. ¡También podés sumar Los Andes Pass para ahorrar en cientos de comercios!

VER PROMOS DE SUSCRIPCIÓN

Temas Relacionados

COMPARTIR NOTA