La plataforma X, propiedad de Elon Musk, anunció este miércoles la implementación de medidas tecnológicas para evitar que su chatbot de inteligencia artificial Grok edite imágenes con carácter sexual de personas reales. La decisión responde a las críticas globales recibidas por la generación de ese tipo de contenido, que incluía a mujeres y niños. 'Hemos implementado medidas tecnológicas para prevenir que la cuenta de Grok permita la edición de imágenes de personas reales con ropa reveladora, como bikinis', indicó el equipo de seguridad de X en un comunicado. La restricción aplicará para todos los usuarios, incluyendo los suscriptores pagos.
El anuncio llega tras un escándalo internacional por la difusión de imágenes sexuales generadas por Grok. Una coalición de grupos de mujeres, organismos de control tecnológico y activistas pidió a gigantes como Apple y Google que retiraran a Grok de sus tiendas de aplicaciones, petición respaldada por legisladores estadounidenses. Países como Malasia e Indonesia ya han bloqueado el acceso al chatbot y han emprendido acciones legales contra X. En México, la Secretaría de Mujeres, dirigida por Citlalli Hernández Mora, condenó el uso violento del bot y exigió soluciones, recordando que tales conductas se sancionan bajo las reformas conocidas como Ley Olimpia. En el Reino Unido, la ley cambiará esta semana para penalizar la creación de este tipo de imágenes.
Frente a las acusaciones, Elon Musk declaró el mismo miércoles no tener conocimiento sobre la generación por parte de Grok de 'imagenes desnudas' explícitas involucrando menores. 'No tengo conocimiento... Literalmente cero', afirmó Musk en un post en X. El magnate reiteró que Grok está programado para rechazar solicitudes ilegales y debe cumplir con las leyes locales. 'Obviamente, Grok no genera imágenes espontáneamente', destacó Musk.
Estas nuevas restricciones se suman a las medidas aplicadas la semana pasada, cuando X limitó públicamente la capacidad del bot para generar o editar imágenes para muchos usuarios. Sin embargo, expertos del sector y organismos reguladores han señalado que Grok seguía siendo capaz producir contenido sexualmente explícito incluso después esas limitaciones iniciales.