La creación de imágenes y videos hiperrealistas donde, con Inteligencia Artificial, desnudan a las personas partiendo de fotos reales preocupa. Una guía clave.
La Inteligencia Artificial es ese futuro que llegó hace rato al que le cantó Patricio Rey y sus Redonditos de Ricota. De hecho, técnicamente ya no es futuro, sino presente. Y la irrupción de esta herramienta en la cotidianeidad marcó una revolución. El detalle es que, en manos equivocadas, la IA llega a convertirse en un riesgo imposible de medir.
En internet, y en un contexto en que los niños, niñas y adolescentes (NNyA) son actores sumamente vulnerables, la IA generativa ha abierto un nuevo ámbito altamente riesgoso, donde se combinan los avances tecnológicos con el crecimiento de las violencias sexuales digitales contra este grupo.
Deepfakes (imágenes realistas falsas) sexuales, “nudificación” de fotos (convertir fotos reales en imágenes donde se ve al o la protagonista desnuda), extorsiones con imágenes falsas y hasta chatbots utilizados para manipular menores forman parte de una problemática que ya encendió las alarmas en toda América Latina y el mundo.
Ante este panorama, la red Grooming LATAM ha elaborado la primera “Guía Regional de Prevención frente a las violencias sexuales contra niñas, niños y adolescentes mediadas por Inteligencia Artificial”, que será presentada este jueves en San José de Costa Rica.
Se trata del primer documento regional pensado específicamente para familias latinoamericanas y orientado a detectar, prevenir y enfrentar las nuevas formas de violencia digital potenciadas por IA. Detrás están los referentes de esta red, integrada por 32 organizaciones de 17 países latinoamericanos.
"El ecosistema de Internet se ha convertido en un espacio victimizante para niñas, niños y adolescentes. La industria de las violencias sexuales contra niñas, niños y adolescentes, una de las economías criminales más lucrativas y expansivas del mundo, encontró en este entorno un vehículo de contacto y proximidad inmediata de alcance transnacional. La Inteligencia Artificial generativa transformó aún más el escenario, y la respuesta debe estar a la altura", destacó el fundador de Grooming LATAM y director ejecutivo de Grooming Argentina, Hernán Navarro.
"Las familias son el primer espacio de prevención, pero no pueden estar solas. Los Estados y las plataformas tecnológicas tienen una responsabilidad indelegable: diseñar entornos digitales seguros desde el inicio. Esta guía es también una hoja de ruta para exigirlo", concluyó.
La preocupación está in crescendo porque la Inteligencia Artificial permite crear contenido falso con un nivel de realismo cada vez mayor. Una fotografía inocente publicada en redes sociales puede ser modificada digitalmente para generar imágenes sexualizadas o desnudas sin consentimiento. Incluso, hasta existen programas capaces de clonar voces, rostros y expresiones para fabricar videos falsos.
A eso se suman nuevas modalidades de Grooming (acoso virtual y cibernético) y sextorsión (extorsión a cambio de no difundir esas imágenes). Uno de los casos más frecuentes tiene que ver con delincuentes que utilizan perfiles automatizados -o chatbots- para establecer vínculos emocionales con adolescentes, obtener material íntimo o manipularlos psicológicamente.
“La IA transformó completamente el escenario”, advirtieron desde Grooming LATAM. Y agregaron que las familias muchas veces desconocen el alcance real de estas herramientas y la velocidad con que evolucionan.
La flamante guía se apoya en el Informe Regional Grooming LATAM 2024-2025, considerado uno de los relevamientos más amplios realizados en la región sobre infancias y adolescencias en entornos digitales.
El estudio reunió 28.360 encuestas anónimas realizadas a chicos y adolescentes de entre 9 y 17 años en 14 países latinoamericanos. Los resultados reflejan una combinación preocupante entre hiperconectividad, falta de información y ausencia de acompañamiento adulto.
Entre los principales datos aparecen:
El 72,8% de los entrevistados no sabe qué es el Grooming (7 de cada 10 NNyA).
El 60% conversa con desconocidos en redes sociales o videojuegos online (6 de cada 10 NNyA).
El 77,7% reconoció haber accedido a contenido sexual explícito (casi 8 de cada 10 NNyA).
El 75,7% de los NNyA desconoce el concepto de identidad digital.
Uno de cada tres admitió haber practicado sexting.
El 64,9% considera que sabe más de tecnología que sus padres o tutores.
El 28% tuvo su primer celular con conexión a Internet antes de los 9 años (3 de cada 10 NNyA).
Más de un tercio pasa entre cinco y seis horas diarias frente a pantallas.
La investigación también alerta sobre una brecha generacional cada vez más marcada al dejar en evidencia que muchos adultos no logran comprender las dinámicas digitales que atraviesan niños y adolescentes, lo que dificulta el acompañamiento y la prevención.
Según datos de la Internet Watch Foundation, durante 2025 se detectaron más de 8.000 imágenes y videos de abuso sexual infantil generados mediante Inteligencia Artificial.
En ese sentido, la cantidad de videos aumentó 260 veces respecto del año anterior. Además, el 97% del material representaba niñas.
A su vez, la CyberTipline del NCMEC -la principal línea mundial de reportes de explotación infantil online- recibió más de un millón de denuncias vinculadas a IA generativa.
Uno de los casos más resonantes fue el de Grok, el chatbot integrado a la red social X, que entre diciembre de 2025 y enero de 2026 generó millones de imágenes sexualizadas. Entre ellas, miles aparentaban representar situaciones de violencia sexual infantil, según reportó el Center for Countering Digital Hate.
Para los especialistas, ese episodio marcó un punto de inflexión sobre la responsabilidad de las plataformas tecnológicas y los límites aún difusos del desarrollo de la IA.
Los especialistas remarcan que muchas señales pueden pasar inadvertidas dentro de la rutina cotidiana. Sin embargo, existen algunos cambios de conducta. Estas son:
Aislamiento repentino.
Nerviosismo o angustia después de usar el celular.
Borrado compulsivo de mensajes o cuentas.
Aparición de perfiles desconocidos que interactúan constantemente.
Cambios bruscos de humor.
Resistencia a que adultos supervisen actividades online.
Pedidos de dinero o amenazas vinculadas a imágenes íntimas.
Desde Grooming LATAM destacaron que la clave no pasa por controlar permanentemente a los chicos, sino por construir confianza y diálogo.
La nueva guía pone el foco en la prevención desde el hogar. Entre las recomendaciones principales, se destacan:
Hablar frecuentemente sobre privacidad y seguridad digital.
Explicar que ninguna imagen enviada online está completamente protegida.
Evitar publicar fotos íntimas o excesivamente expuestas de menores.
Configurar correctamente la privacidad de redes sociales y videojuegos.
Supervisar aplicaciones utilizadas por chicos y adolescentes.
Enseñar a desconfiar de perfiles desconocidos.
Promover el pedido de ayuda sin miedo ni castigos.
Denunciar inmediatamente situaciones sospechosas.
Los especialistas también remarcan la importancia de la Educación Sexual Integral (ESI) y de incorporar alfabetización digital desde edades tempranas.
Además de las recomendaciones para familias, Grooming LATAM incluyó por primera vez un conjunto de demandas concretas dirigidas a las plataformas tecnológicas y desarrolladores de IA.
Ellas son:
Prohibir aplicaciones de “nudificación”.
Implementar mecanismos rápidos para eliminar contenido ilegal.
Reportar automáticamente casos sospechosos.
Transparentar algoritmos y sistemas de moderación.
Aplicar auditorías independientes sobre herramientas de IA.
Uno de los mayores desafíos es que la tecnología avanza mucho más rápido que las regulaciones. Mientras aparecen nuevas aplicaciones capaces de generar imágenes falsas en segundos, muchos países todavía no cuentan con legislación específica para abordar estos delitos.
Por eso, desde Grooming LATAM insisten en la necesidad de una respuesta regional coordinada que combine educación, prevención, regulación y responsabilidad empresarial.