X es una máquina de producir violencia machista
«Los hombres están usando Grok para quitarle la ropa a mujeres, niños y bebes», así empieza un reel de Catharina Doria, especialista en criterios éticos para el uso de inteligencias artificiales. Lo repite una y otra vez como respuesta a la forma en la que se está informando de lo que está pasando en X desde hace unas semanas.
Grok, la Inteligencia Artificial que la plataforma tiene empotrada, que aprende del conjunto de mensajes, imágenes y videos que se producen o se han producido en la misma está generando imágenes sin ropa de mujeres, niños e incluso bebés a petición de los usuarios y los medios de comunicación lo están contando cómo si fuera algo que hiciera Grok por una especie de toma de conciencia particularmente machista.
Pero Grok no es una persona, ni tiene sentimientos, ni piensa, ni tiene criterio ético. Hablar de lo que hace Grok le quita responsabilidad a los responsables de su programación, a los responsables de su uso y todos los que siguen manteniendo a X como «el espacio de la opinión pública global» (algo que por supuesto no es, pero una ficción que seguimos manteniendo porque es más cómodo que hacer algo al respecto)
Grok es una IA completamente desrregulada, sin ningún tipo de límite, inserta en una comunidad mayoritariamente masculina, mayoritariamente de extrema derecha y que se dedica de forma sistemática a producir violencia digital contra las mujeres. Esto no es algo nuevo. El movimiento feminista lleva desde hace más de diez años explicando y denunciando que las violencias digitales son violencia. No sólo porque favorecen otras violencias en el mundo analógico, sino porque la violencia digital también es un modo de violencia específico con numerosos efectos.
Esta semana el ICE asesinó a una mujer en Minneapolis. Hay imágenes de esa mujer asesinada por el ICE a la que le han quitado la ropa, hay imágenes suyas en bikini. Es una petición que un usuario (o varios) hicieron a Grok, Grok la devolvió siguiendo su absoluta falta de regulación al respecto y ahora circula. La violencia digital es violencia.
Los mismos hombres que de manera sistemática utilizan una plataforma que se dedica a la explotación de este tipo de imágenes sin consentimiento dicen que las mujeres deben aprender a no subir sus fotos a internet, culpando una vez más a las víctimas.
Los datos son escalofriantes:
– Se producen 6700 imágenes de desnudos a la hora, un número que va creciendo según se va popularizando la herramienta.
– El 53% de las imágenes que genera Grok son quitando ropa, 4 de cada 5 imágenes que quitan ropa están quitando ropa a mujeres, el 80% de los usuarios de esta herramienta son hombres.
– X es hoy por hoy la mayor fábrica de deepfakes del planeta.
– Las denuncias de las usuarias no son escuchadas y las convierten en objeto de humillaciones
El Ministerio de Infancia y Juventud del gobierno de España ha remitido a la Fiscalía un escrito solicitando que investigue supuestos delitos de difusión de imágenes de violencia sexual contra la infancia. El Ministro Alemán encargado de los medios de comunicación ha pedido que se tomen medidas legales contra X.
Hay muchas cosas que podemos hacer al respecto, es evidente que por estas y otras muchas razones hay que dar pasos decididos desde la justicia y los gobiernos para que X deje de operar en los términos en los que lo hace (recuerdo que además de todo esto, X es una herramienta de desestabilización democrática, un peligro para la seguridad nacional y una herramienta al servicio de la extrema derecha internacional) pero a una escala más cercana hay dos cosas sencillas que podemos hacer.
La primera es dejar de usar X. Hay alternativas tanto en plataformas de los monopolios digitales como Meta, como en herramientas abiertas y federadas, como Bluesky o Mastodon. Recordemos que las redes de texto son minoritarias y que el dominio de X viene de que una parte importante de los líderes políticos y los medios de comunicación han construido en su interior una suerte de opinión publicada de nicho. Cuanta menos audiencia tenga esa esfera, mejor para todos.
La segunda cuestión, seguramente más importante, es impulsar que esos medios de comunicación y muchos políticos e instituciones públicas, dejen de usar X. No es un espacio público, no es una herramienta al servicio de la libertad de expresión. Es una máquina de violencia digital, una herramienta al servicio del machismo, la humillación y las mujeres y la violencia, que produce imágenes sin consentimiento con el objetivo de humillar y dañar a nuestras compañeras, amigas, familias, etc. Es también, no lo podemos olvidar, una herramienta de producción de imágenes de violencia sexual con menores.
Esto es lo que está pasando y esto es contra lo que hay que luchar.
