Grok auf X generiert aktuell keine Bilder mehr für Nutzer und Nutzerinnen, die nicht für den Kurznachrichtendienst bezahlen, und kann damit auch nicht mehr genutzt werden, um Personen digital „zu entkleiden“. Das geht aus Antworten des KI-Chatbots hervor, die dieser seit Freitagmorgen auf Bitten um eine Bildbearbeitung hin generiert. Darin heißt es, „die Bildgenerierung und -bearbeitung ist aktuell auf die zahlende Kundschaft begrenzt“. Dazu gibt es einen Link zum Premium-Abo für X, das 9,44 Euro pro Monat kostet. Eine darüber hinausgehende Stellungnahme oder Information zu dem Schritt gibt es nicht. Auch X-Chef Elon Musk hat sich nicht dazu geäußert.

Lesen Sie auch

[

](https://www.heise.de/hintergrund/Skandal-um-Grok-Das-steckt-hinter-den-sexualisierten-KI-Fotos-auf-X-11129281.html)

Der Schritt von X dürfte eine Reaktion auf die Empörung über den Umgang mit Grok sein, die in den vergangenen Tagen massiv zugenommen hat. Nutzer haben den KI-Account seit Tagen benutzt, um teilweise pro Stunde tausende Fotos primär von Frauen digital „zu entkleiden“. Das heißt, die KI hat für sie Versionen von Aufnahmen bekleideter Personen erstellt, auf denen sie scheinbar einen Bikini oder Unterwäsche tragen. Auch Minderjährige waren davon betroffen. Für die Betroffenen, die in den meisten Fällen kein Einverständnis gegeben haben, kann das äußerst schlimme Folgen haben. In einigen Staaten ist solche Technik verboten. Auf X ist das aber in aller Öffentlichkeit passiert.

Keine Einzelheiten von X oder xAI

Was genau die weitgehende Deaktivierung der Funktion nun bedeutet, ist unklar. Denn sie wurde nicht komplett entfernt, zahlende User können solche Inhalte weiterhin bestellen. Die sind aber für X identifizierbar und können mit Konsequenzen belegt werden. Kurz vor der Abschaltung hat das US-Magazin Wired aber darauf aufmerksam gemacht, dass eine Lücke auf der Website von Grok noch deutlich verstörendere Inhalte zugänglich macht, die Nutzer dort erstellen lassen. In einsehbaren Inhalten von dort finden sich fotorealistische KI-generierte Videoclips mit sexualisierten Deepfakes, auf denen noch Blut hinzukommt. Auch Clips, die scheinbar prominente Frauen zeigen, gehören demnach dazu. Sogar kurze Filme, die scheinbar Minderjährige zeigen, gibt es.

Erst am Donnerstag hat CNN zudem berichtet, dass Elon Musk intern lange gegen Begrenzungen für Grok gewettert hat, die verhindern sollten, dass der Chatbot problematische Inhalte erstellt. Der Milliardär sei mit einer „übermäßigen Zensur“ unzufrieden gewesen, berichtet der US-Nachrichtensender unter Berufung auf mehrere Quellen. In einem Meeting habe er sich besonders unzufrieden gezeigt und die Einschränkungen kritisiert. Ungefähr zu dieser Zeit hätten drei hochrangige Angestellte des für Grok verantwortlichen KI-Unternehmens xAI gekündigt. Musk hatte auf X immer wieder dafür geworben, dass Grok im „Spicy Mode“ auch freizügigeren Anfragen nachkommen soll.