La IA de Musk crea sin permiso imágenes falsas de chicas en bikini a partir de fotos reales
El Gobierno francés denuncia ante la Justicia a Grok, la inteligencia artificial integrada en X, por esta práctica viral
La influencer de libros y escritora emergente británica Beth Eleanor colgó en X, antes Twitter, una imagen suya que se había convertido en meme. Salía de espaldas, en una gran biblioteca, y hacía el signo de ok con la mano. Al día siguiente, el 28 de diciembre, un consultor de IA con 100.000 seguidores en X citó el mensaje en el que pedía a Grok cambiar su ropa por un bikini.
Grok es el modelo de inteligencia artificial integrado en X, ambos propiedad de Elon Musk. La IA cumplió la petición a rajatabla. Un par de días después esa orden se hizo viral y promovió una tendencia que muestra la indefensión de miles de mujeres ante ataques sexistas permitidos por la combinación de redes e IA.
Beth Eleanor se quejó públicamente en X: “¿Cómo puede estar bien algo así? Si quisiera que la gente me viera en bikini, lo subiría yo misma, no dejaría que una IA de mierda generara una versión”. No lo denunció en X, pero otros lo hicieron por ella y recibieron una respuesta automatizada que decía que no infringía sus normas.
La propia IA explicaba sus motivos: “La legalidad de las imágenes generadas por IA depende del país y de cómo se usen. En EE UU, las leyes sobre el derecho a la propia imagen protegen frente al uso comercial no autorizado, pero los usos no comerciales y transformadores suelen entrar dentro del uso legítimo”. X no ha respondido a un correo de EL PAÍS sobre este asunto.
El Gobierno francés ha sido el primero en reaccionar y ha anunciado este viernes la presentación de una denuncia ante la Justicia contra Grok por crear y divulgar “contenidos de carácter sexista y sexual”, informa Efe. En un comunicado, tres ministerios (Economía, IA e Igualdad) acusan a la IA de Musk de generar y difundir “contenidos de carácter sexista y sexual, en particular en forma de falsos vídeos (deepfakes) con personas sin su consentimiento”. El Ejecutivo francés ha pedido además a la Autoridad de Regulación de la Comunicación Audiovisual y Digital (Arcom) que verifique si X ha incumplido las obligaciones del Reglamento de Servicios Digitales de la Unión Europea, en particular sobre la prevención de difusión de contenidos ilícitos.