Indonesien und Malaysia setzen Grok AI wegen Missbrauchs der Bildgenerierungsfunktion aus

Elon Musks Grok wurde in Indonesien und Malaysia gesperrt – die ersten Länder, die diesen Schritt unternahmen, nachdem die „digitale Entkleidungsfunktion“ des KI Tools weltweit für Empörung gesorgt hatte. Die Funktion hatte das Internet mit manipulierten Bildern von Frauen und Minderjährigen in anzüglichen und obszönen Darstellungen überschwemmt.

Musks Grok wird von Indonesien und Malaysia blockiert

Malaysia hat den Zugang zu Elon Musks KI Chatbot Grok nach weit verbreiteter Empörung über dessen Verwendung zur Erstellung pornografischer und sexuell expliziter Inhalte, einschließlich manipulierter Bilder von Frauen und Kindern, gesperrt. Die malaysische Technologieaufsichtsbehörde bestätigte die Entscheidung am Sonntag und begründete sie mit dem wiederholten Missbrauch des Tools durch seine Nutzer.

Der Schritt erfolgt inmitten zunehmender internationaler Kritik an Grok, einem von Musks Startup xAI entwickelten KI System, das in die Social Media Plattform X integriert ist. Die Aufsichtsbehörden gaben an, die Sperrung sei durch Beweise ausgelöst worden, dass die Bildgenerierungsfunktion von Grok es Nutzern ermöglichte, Bilder mithilfe einfacher Textbefehle zu sexualisieren, was zur Erstellung obszöner, unanständiger und nicht einvernehmlicher Inhalte führte.

Die Maßnahme Malaysias folgt einer ähnlichen Entscheidung Indonesiens, das am Samstag als erstes Land den Zugang zu Grok vollständig blockierte. Während der Chatbot in mehreren anderen Regionen bereits auf zahlende Abonnenten beschränkt ist, entschieden sich die Behörden in Südostasien aufgrund der Schwere der Verstöße für eine vollständige Sperrung.

Laut der malaysischen Aufsichtsbehörde wurde Grok wiederholt missbraucht, um sexuell explizite und grob anstößige Inhalte zu produzieren, darunter auch Inhalte mit Frauen und Minderjährigen. In der Erklärung hieß es, diese Probleme hätten trotz vorheriger Kontaktaufnahme mit den Aufsichtsbehörden und formeller Mitteilungen an X Corp. und xAI fortbestanden. Als ein AFP-Reporter am Sonntag versuchte, Grok in Kuala Lumpur zu nutzen, reagierte der Chatbot nicht, was die Deaktivierung des Zugangs bestätigte.

Die Aufsichtsbehörde erklärte, die bestehenden Sicherheitsvorkehrungen der Plattform seien unzureichend und würden sich zu sehr auf von Nutzern initiierte Meldesysteme verlassen. Der Zugang zu Grok bleibe in Malaysia gesperrt, bis die erforderlichen Änderungen umgesetzt und unabhängig überprüft worden seien, fügte die Behörde hinzu.

Die Kontroverse hat auch Kritik von europäischen Beamten und Aktivisten für digitale Rechte hervorgerufen. Sie argumentierten, dass die Beschränkung von Bildtools auf zahlende Nutzer die grundlegenden Sicherheits und Ethikbedenken nicht löse.