La Comisión Europea ha iniciado una investigación formal contra X, la red social de Elon Musk, por la posible difusión de material de abuso sexual infantil a través de su chatbot de inteligencia artificial, Grok. Esta indagación, que comenzó el lunes, se suma a un expediente previo sobre los sistemas de recomendación de la plataforma, que determinan qué contenidos se muestran a los usuarios.
La controversia surgió tras la indignación internacional provocada por Grok, que permitía a los usuarios crear imágenes sexualizadas de mujeres y menores de edad. Investigadores del Center for Countering Digital Hate informaron que la herramienta generó cerca de tres millones de imágenes sexualizadas en menos de dos semanas, incluyendo aproximadamente 23,000 que supuestamente representaban a niños. La Comisión Europea busca evaluar si X ha tomado las medidas adecuadas para mitigar los riesgos asociados con Grok, que incluyen la difusión de contenido ilegal y material que podría constituir abuso sexual infantil.
La investigación se basa en la Ley de Servicios Digitales (DSA), una normativa diseñada para proteger a los usuarios de internet de diversos daños. Ante la presión de los reguladores europeos, X anunció recientemente nuevas medidas para evitar que Grok permita la edición de imágenes de personas reales con ropa provocativa. En un comunicado emitido el 14 de enero, la compañía afirmó: “Seguimos comprometidos a hacer de X una plataforma segura para todos y mantenemos una tolerancia cero frente a cualquier forma de explotación sexual infantil, desnudez no consentida y contenido sexual no deseado”.
Este no es el primer enfrentamiento entre la Comisión Europea y X, ya que el mes pasado se impuso a la red social una multa de 120 millones de euros por violar la legislación comunitaria. Según el regulador, la plataforma engañó a los usuarios, obstaculizó el trabajo de investigadores independientes y eludió responsabilidades. La empresa tiene un plazo de tres meses para pagar la multa, un pago que, según un funcionario europeo, se realizará con certeza.
Además, la Comisión acusó a X de otorgar insignias azules “engañosas” sin verificación y de incumplir las normas de transparencia publicitaria, lo que dificulta la investigación de anuncios falsos y campañas de desinformación. Elon Musk, en respuesta a la sanción, calificó la multa de “una estupidez” y ha expresado su deseo de abolir la Unión Europea. La situación ha generado un debate amplio sobre la responsabilidad de las plataformas sociales en la protección de los menores y la salud mental de los usuarios.