El chatbot de inteligencia artificial de Elon Musk, quedó en medio de un escándalo a partir de su actualización que facilita la creación de imágenes explícitas.
Grok en X que permite crear imágenes con IA y es utilizada para "desnudar mujeres".
Foto:
Grok, el chatbot de inteligencia artificial propiedad de Elon Musk, se encuentra en el centro de polémica a partir de una nueva actualización. El escándalo se desató luego de que fuera utilizado crear y difundir imágenes de mujeres sin ropa y, en los casos, de menores de edad.
Esto funcionaba a partir de la directiva de los usuarios, quienes subían una foto real de la persona vestida y le pedían a la IA directamente "desnudar" a mujeres y niños presentes en fotografías compartidas con el chatbot , según fuentes de Bloomberg y CNBC.
Aunque Grok no desnuda a personas reales, sino que crea imágenes completamente ficticias mediante modelos de IA entrenados para reconocer patrones del cuerpo humano, igualmente, esta práctica vulnera los derechos de las personas afectadas.
Esta situación se ha mantenido en el foco desde hace días. Si bien la cantidad de generación de imágenes en Grok habría disminuido, según el diario Bloomberg, en los últimos días se habrían generado miles de imágenes similares por hora, concretamente, unas 6.700 fotos.
De parte del equipo del empresario, se publicaron avisos que los que se advierte que este tipo de contenido es ilegal y que se iniciarían acciones legales contra dicho contenido. Sin embargo, a pesar de estas amenazas, muchos usuarios continúan pidiendo a Grok imágenes sexualizadas de chicas en bikini bajo el argumento de que no violan de forma explícita las normas de la comunidad de X.
En este contexto, la cuenta de Seguridad de la red social a aseguró que se toman medidas contra el contenido ilegal, incluido el material de abuso sexual infantil, mediante la eliminación de publicaciones, la suspensión permanente de cuentas y la colaboración con gobiernos y fuerzas de seguridad cuando es necesario.
A pesar de esto, el propio Elon Musk publicó en X una imagen suya en bikini generada con IA, gesto que podría entenderse como una minimización de la situación de parte del empresario.