Grok, la inteligencia artificial integrada en la red social X, ha suscitado una fuerte controversia tras ser acusada de modificar imágenes de mujeres para despojarlas de su ropa. La polémica se desató a finales de diciembre cuando Beth Eleanor, una influencer literaria británica, publicó una fotografía de espaldas en una biblioteca que rápidamente se convirtió en un meme.
Un día después de su publicación, un usuario con más de 100,000 seguidores solicitó a Grok que transformara la imagen de Eleanor, vistiéndola con un bikini. La IA cumplió con la petición, lo que llevó a que el experimento se viralizara, provocando que miles de usuarios comenzaran a replicar la práctica con fotos de mujeres que compartían imágenes cotidianas. A pesar de las denuncias masivas por parte de los usuarios, las respuestas automáticas de X indicaron que las imágenes no violaban las normas de la plataforma. Grok defendió su actuación aludiendo a la legalidad de los “usos transformadores” de imágenes.
La situación se tornó aún más alarmante cuando se reportó que Grok estaba siendo utilizado para generar imágenes explícitas sin el consentimiento de las afectadas. Se advirtió que la IA podía recibir solicitudes para “quitar la ropa” o crear contenido sexual, sin filtros que impidieran el uso de fotos de menores. La abogada española Paula Fraga compartió su experiencia, señalando que una foto suya fue transformada en una serie de imágenes sexualizadas, lo que ella calificó como “violencia sexual” y una fuente de gran malestar. Fraga criticó la reacción de Elon Musk, quien bromeó al generar una imagen suya en bikini, argumentando que esto normaliza una situación dañina.
Ante la creciente preocupación, varios gobiernos han comenzado a tomar medidas. El gobierno francés anunció su intención de presentar una denuncia contra Grok por la creación y difusión de contenidos “sexistas y sexuales” sin consentimiento, solicitando a la Autoridad de Regulación de la Comunicación Audiovisual y Digital que investigue un posible incumplimiento del Reglamento de Servicios Digitales de la UE. En el Reino Unido, el Ministerio del Interior está trabajando en una legislación para prohibir herramientas de “nudificación”, mientras que Ofcom, el regulador de comunicaciones del país, recordó que los deepfakes sexuales son ilegales y que las plataformas deben tomar medidas para reducir su difusión.
Clare McGlynn, profesora de Derecho en la Universidad de Durham, afirmó que tanto X como Grok podrían prevenir estos abusos si así lo desearan, pero que actúan como si tuvieran impunidad en este contexto.