Elon Musks Grok KI sieht sich mit Gegenwind wegen sexualisierter Deepfakes konfrontiert

Elon Musks KI Chatbot Grok sieht sich nach einem jüngsten Anstieg sexualisierter Bilder von Frauen und Kindern, die ohne deren Zustimmung von dem KI gestützten Tool generiert wurden, mit heftiger Kritik von Öffentlichkeit und Regierungen weltweit konfrontiert.

Elon Musks KI Grok löst internationale Empörung wegen sexualisierter Deepfakes aus

Elon Musks KI Chatbot Grok hat nach der Generierung sexualisierter und ohne Zustimmung erstellter Bilder von Frauen und Kindern international breite Kritik hervorgerufen. Regierungen und Behörden für digitale Sicherheit im Vereinigten Königreich, der Europäischen Union, Indien, Malaysia und anderen Ländern fordern regulatorische Maßnahmen.
Die Kontroverse dreht sich um Groks Bildgenerierungsfunktion und den „Spicy Mode“, die laut Kritikern missbraucht wurden, um Deepfake Bilder zu erstellen, die reale Personen in anzüglichen oder freizügigen Kontexten ohne deren Zustimmung darstellen.

Europäische Beamte äußerten sich besonders deutlich. Ein Sprecher der Europäischen Kommission bezeichnete die Ergebnisse als „illegal“, „abscheulich“ und in der Region inakzeptabel. Er betonte, dass solches Material gegen bestehende Bestimmungen des Gesetzes über digitale Dienste (DSA) und andere EU Gesetze verstoßen könnte. Britische Aufsichtsbehörden forderten von Groks Entwickler und der Plattform X (ehemals Twitter) Erklärungen dazu, wie solche Inhalte generiert wurden und ob dadurch rechtliche Pflichten zum Schutz der Nutzer vor schädlichen Inhalten verletzt wurden.

In Indien erließ das Ministerium für Elektronik und Informationstechnologie (MeitY) formelle Anweisungen an X. Das Ministerium äußerte seine Unzufriedenheit mit der Reaktion der Plattform und warf ihr vor, keine ausreichenden Schutzmaßnahmen implementiert zu haben. Auch die malaysische Kommunikations- und Multimedienkommission leitete eine Untersuchung wegen möglicher Verstöße gegen Gesetze gegen beleidigende und anstößige Online-Inhalte, die von Grok generiert wurden, ein. Ähnliche Untersuchungen wurden auch von Regulierungsbehörden in Frankreich und Deutschland eingeleitet.

Die Kritik hat breitere Bedenken hinsichtlich des Tempos der Entwicklung generativer KI und ihrer Regulierung deutlich gemacht. Kritiker argumentieren, dass Groks Fähigkeit, unsichere Eingabeaufforderungen zu verarbeiten, Mängel in der Inhaltsmoderation und das Fehlen wirksamer präventiver Schutzmaßnahmen unterstreicht. Einige Kinderschutzorganisationen und Gesetzgeber betonen, dass Technologieunternehmen zur Rechenschaft gezogen werden müssen, wenn KI Systeme Material produzieren können, das als nicht einvernehmliche intime Bilder oder sogar als Material zum sexuellen Missbrauch von Kindern (CSAM) eingestuft werden könnte.

Die Entwickler von Grok bei xAI und der Mutterplattform X haben Mängel bei den Schutzmaßnahmen eingeräumt und erklärt, dass sie an der Behebung der Probleme arbeiten.