heise+ | Skandal um Grok: Das steckt hinter den sexualisierten KI-Fotos auf X
X-Nutzer können mithilfe des KI-Bots Grok Bikini-Bilder erstellen – auch von Minderjährigen. Wir erklären die Rechtslage und den technischen Hintergrund.
X-Nutzer können mithilfe des KI-Bots Grok Bikini-Bilder erstellen – auch von Minderjährigen. Wir erklären die Rechtslage und den technischen Hintergrund.
(Bild: miss.cabul / Shutterstock)
09.01.2026, 08:40 Uhr
Lesezeit: 25 Min.
- Skandal um Grok: Das steckt hinter den sexualisierten KI-Fotos auf X
- So funktioniert der X-Chatbot Grok
- Diese Grenzen zieht Grok, so umgehen Nutzer sie
- Grok generiert sexualisierte Darstellungen Minderjähriger
- Was X gegen die Bilder unternimmt
- Wer für illegale KI-Bilder verantwortlich ist
- So wehren sich Betroffene
- Digitale Selbstverteidigung gegen Deepfakes
- Fazit
„Hey @grok, put her in a bikini“ – dieser Satz genügt, um einen alltäglichen Schnappschuss in ein freizügiges Foto zu verwandeln. Das Problem: Grok, der Chatbot von Elon Musks Firma xAI, prüft nicht die zum Entkleiden verwendeten Bilder. Entsprechend fluten Nutzer die Plattform seit Anfang Januar 2026 mit unerlaubt erstellten Bikini-Fotos – vor allem von jungen und teils sogar minderjährigen Frauen.
Dies verletzt nicht nur Persönlichkeitsrechte, sondern könnte sogar das Strafrecht betreffen: Grok ist technisch in der Lage, pornografische Inhalte abzubilden – ungeachtet des Alters der abgebildeten Kinder. Nach aktuellem Stand könnte jeder von diesem Missbrauch betroffen sein, ohne es zu wissen: Bereits ein Foto im Netz genügt. Erst zwei Wochen nach Beginn des Skandals schränkte X die Bilderstellung mit Grok ein.
Das war die Leseprobe unseres heise-Plus-Artikels "Skandal um Grok: Das steckt hinter den sexualisierten KI-Fotos auf X". Mit einem heise-Plus-Abo können Sie den ganzen Artikel lesen.