Crece la polémica por uso indebido de IA en X: denuncian generación de imágenes no consensuadas de mujeres en bikini

Una preocupante tendencia ha emergido en la red social X (antes Twitter), donde usuarios con acceso a la inteligencia artificial Grok —una herramienta exclusiva para suscriptores de X Premium— están utilizando el sistema para generar imágenes manipuladas de personas, principalmente mujeres, en bikini o ropa interior sin su consentimiento. El fenómeno ha detonado una ola de indignación a nivel internacional y ha reavivado el debate sobre los límites éticos y legales de la IA generativa.

Una de las voces más visibles en denunciar esta práctica es Samantha Smith, quien expuso públicamente cómo un usuario solicitó a Grok transformar una imagen suya —en la que aparece con un vestido azul sosteniendo una bandera del Reino Unido— en una versión generada por IA donde ella aparece con un bikini negro extremadamente realista. “¿Cómo es posible que esto no sea ilegal?”, se preguntó Smith en un post que rápidamente se viralizó.

Para demostrar lo sencillo que es replicar el proceso, la propia Smith intentó pedirle a Grok que modificara una imagen de su primera comunión para que apareciera en bikini, y la IA lo hizo sin obstáculos. “Es absolutamente asqueroso”, denunció, compartiendo el resultado generado por la herramienta.

Las críticas se han multiplicado. Usuarios de distintas partes del mundo han acudido directamente a Elon Musk, propietario de X, para exigir mayores restricciones al uso de Grok y la eliminación inmediata del contenido generado sin consentimiento. El periodista Sanket Upadhyay cuestionó abiertamente al empresario: “¿Dirige una aplicación para pervertidos que no muestra ningún respeto ni dignidad hacia las mujeres?”.

En la misma línea, la usuaria Nandani Sotro lanzó un llamado urgente: “Eliminen todo el contenido generado donde las fotos de mujeres fueron modificadas para que aparecieran en bikini o vestidos cortos sin su consentimiento. Esto no es innovación de IA, es una violación de la privacidad”.

En medio de la polémica, Elon Musk reaccionó con ironía, al pedirle a Grok que generara una imagen en bikini de sí mismo a partir de una figura femenina, publicación que acompañó con un escueto “Perfecto”. Su respuesta ha sido interpretada por muchos como una trivialización de una situación que para muchas mujeres representa una forma moderna de acoso digital y violencia simbólica.

Desde el interior del ecosistema tecnológico, fuentes señalan que la falta de filtros éticos robustos en Grok y su aparente disponibilidad para modificar imágenes humanas sin controles o validaciones adecuadas está exponiendo a usuarios —especialmente mujeres— a situaciones de cosificación y humillación digital que podrían escalar hacia consecuencias legales.

Expertos en derechos digitales y regulación de inteligencia artificial han advertido que este tipo de usos entra en zonas grises donde la tecnología supera la legislación vigente, y llaman a acelerar la creación de marcos legales que prohíban expresamente la generación de imágenes no consensuadas de personas reales, especialmente cuando se sexualiza su apariencia sin autorización.

Mientras tanto, la presión sobre X y Grok no deja de aumentar. Organizaciones feministas y de derechos humanos han comenzado a documentar casos y exigen que se establezcan protocolos de denuncia, verificación y eliminación de contenido ofensivo, además de sanciones claras a quienes utilicen estas herramientas para vulnerar la dignidad de otros usuarios.

El caso plantea una interrogante clave sobre el futuro de la inteligencia artificial generativa: ¿hasta dónde pueden llegar las plataformas antes de que la innovación se convierta en una herramienta de agresión? Por ahora, la respuesta parece depender más de decisiones empresariales que de compromisos éticos claros.