Der KI-Chatbot Grok wurde zuletzt dafür benutzt, öffentlich auf X jede Stunde tausende sexualisierte Deepfakes, primär von Frauen, zu erstellen – fast 100 Mal so viele solcher Bilder wie auf fünf anderen dafür genutzten Plattformen zusammen. Das hat eine 24-stündige Analyse einer Deepfake-Forscherin ergeben, deren Ergebnis die Nachrichtenagentur Bloomberg zusammenfasst. Damit gibt es für das seit Tagen diskutierte Problem jetzt auch konkrete Zahlen. Unterdessen hat das US-Magazin Wired darauf hingewiesen, dass Inhalte, die der Chatbot von Elon Musks KI-Firma auf einer eigenen Website generiert, noch viel problematischer sind. Das deuten von Google indexierte und in der Suche auffindbare Inhalte an, die Nutzer erstellt haben. Eigentlich sind diese nicht öffentlich.

Grok macht immer weiter

Wie Bloomberg erläutert, hat die Forscherin Genevieve Oh für ihre Analyse des X-Accounts von Grok dessen Antworten in einem 24 Stunden langen Zeitraum Anfang der Woche analysiert. Das Ausmaß der dort öffentlich und in den meisten Fällen ohne Zustimmung der Abgebildeten generierten sexuellen Fake-Bilder sei „beispiellos“, zitiert die Nachrichtenagentur eine Anwältin, die sich mit der Thematik auskennt. Es habe bis jetzt keine Technik gegeben, die die Generierung von täuschend echt aussehenden, aber falschen Aufnahmen fast nackter Personen so einfach macht und welche gleichzeitig so weit verbreitet ist. Auf dem Kurznachrichtendienst X kann man dem Chatbot ein Foto schicken und um eine Version bitten, in der die gezeigte Person fast keine Kleidung anhat. Grok kommt dem weiter nach.

Empfohlener redaktioneller Inhalt

Mit Ihrer Zustimmung wird hier ein externes YouTube-Video (Google Ireland Limited) geladen.

YouTube-Video immer laden

Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit können personenbezogene Daten an Drittplattformen (Google Ireland Limited) übermittelt werden. Mehr dazu in unserer Datenschutzerklärung.

Die sexualisierten Deepfakes von Grok sorgen seit Tagen für Empörung in aller Welt. Nutzer verwenden den KI-Account sogar, um Fotos von Minderjährigen digital „zu entkleiden“. Die Erstellung dieser sexualisierten Aufnahmen ist ohne Einverständnis der Betroffenen möglich, die Ergebnisse landen öffentlich einsehbar auf dem Kurznachrichtendienst. Obwohl X über den KI-Account die Behauptung hat verbreiten lassen, dass es sich nur um „vereinzelte Fälle“ gehandelt habe und ein ursächliches „Versagen der Sicherheitsvorkehrungen“ behoben wurde, hört der Chatbot nicht mit der Generierung auf. ; tatsächliche Konsequenzen gibt es aber weiterhin nicht.