La Secretaría de las Mujeres de México condenó este martes el uso de la inteligencia artificial Grok, vinculada a la red social X (antes Twitter), para 'violentar sexualmente a las mujeres' mediante imágenes manipuladas difundidas sin su consentimiento. La dependencia, dirigida por Citlalli Hernández Mora, hizo un llamado a los responsables de la plataforma para evitar que se convierta en un espacio donde se reproduzca la violencia de género. Señaló que esta conducta constituye una violación a la intimidad y una forma de violencia por razón de género que no debe ser tolerada.

Citlalli Hernández reconoció que usuarios han utilizado a Grok para generar imágenes semidesnudas o sexuales mediante IA y divulgarlas sin consentimiento. Recordó que esta conducta está tipificada en México bajo las reformas conocidas como Ley Olimpia, que sanciona la producción y difusión de contenido íntimo real o simulado. Consideró inadmisible que herramientas como Grok carezcan de filtros suficientes y permitan violencia sexual digital. La funcionaria también informó sobre acercamientos con diversas plataformas digitales junto con la Agencia de Transformación Digital y Telecomunicaciones (ATDT), aunque no precisó sus nombres. Expresó preocupación por no poder establecer una reunión con X debido a su ausencia de oficinas en México, subrayando que esto no exime a la empresa de su responsabilidad ética y legal.

La titular enfatizó la disposición para dialogar con X y trabajar en filtros que impidan la violencia sexual digital. El caso ha provocado reacciones internacionales: en Francia, ministros denunciaron a X ante fiscalía y reguladores; Reino Unido instó urgentemente a abordar la proliferación de 'deepfakes' íntimos; e India señaló formalmente a X por no evitar el uso indebido de Grok para contenido obsceno. En Estados Unidos, autoridades federales declinaron pronunciarse.

Expertos consultados advirtieron riesgos previsibles: programas similares existen desde hace años, pero su integración directa en redes sociales reduce barreras. Un especialista afirmó haber advertido desde 2024 sobre el potencial para crear 'deepfakes' no consensuados. Una víctima declaró sentirse avergonzada por imágenes generadas sin ser su cuerpo real, lo cual reavivó el debate global sobre regulación y límites éticos del uso generativo dentro plataformas.