L’intelligence artificielle Grok, installée sur X (ex-Twitter) pour tous les usagers depuis fin 2024, est au cœur d’une vive polémique. Grok est capable de générer des images, mais également de modifier des photos existantes. Mais depuis quelques jours, des milliers d’utilisateurs détournent cette fonction pour demander à Grok de dénuder des photos de femmes qu’elles avaient postées sur le réseau social. Si Grok a certaines limites - il ne peut pas générer une photo de femme nue, il n’a par contre aucune retenue ou garde-fou pour les mettre en bikini ou en très petite lingerie. Le tout, sans demander le consentement des femmes en question.

Le réveillon du 31 décembre, où beaucoup de photos sont postées sur X pour montrer les tenues de soirée, n’a fait que renforcer la tendance. Rappelons que la diffusion de deepfake est punie par loi, et a fortiori si elle est à caractère sexuelle. La diffusion sans consentement est punie de 2 ans d’emprisonnement et 60.000 € d’amende, et jusqu’à trois ans et 75.000 euros d’amende en cas de diffusion en ligne, comme c’est le cas ici.