Die EU-Kommission hat eine umfassende Untersuchung zum Chatbot Grok von Elon Musk auf der Plattform X eingeleitet, berichtet timestuff.de unter Berufung auf edition.cnn.com. Auslöser ist ein Skandal um die Generierung sexualisierter Bilder – darunter auch Darstellungen von Kindern. In Brüssel will man klären, ob X die Risiken vor dem Start der Grok-Funktionen in der EU realistisch bewertet hat und wie die Plattform reagierte, als die Lage eskalierte.
Warum der Grok-Skandal explodierte
Ende des vergangenen Jahres begann der KI-Chatbot auf Nutzeranfragen eine Welle digitaler Bilder mit sexualisiertem Inhalt auszugeben – darunter auch Darstellungen von Kindern. Die Reaktion ließ nicht lange auf sich warten: Das Thema wurde weltweit diskutiert, weil es nicht um „Erwachsenen-Content“ geht, sondern um den Schutz Minderjähriger und die Frage der Einwilligung. Zunächst hatte X angekündigt, das Tool nur zahlenden Abonnenten bereitzustellen, später verschärfte das Unternehmen die Einschränkungen für alle. Am Ende untersagte X die Nutzung von Grok zur Erstellung expliziter Bilder realer Personen.
„Sexuelle Deepfakes von Frauen und Kindern sind eine gewaltsame, inakzeptable Form der Demütigung“, sagte die EU-Kommissions-Vizepräsidentin Henna Virkkunen.
Was die EU-Kommission genau prüft
Am Montag erklärte die Europäische Kommission, dass sie im Rahmen der Untersuchung bewerten werde, ob X „die Risiken im Zusammenhang mit der Einführung der Grok-Funktionalität in der EU ordnungsgemäß bewertet und gemindert“ hat. Virkkunen betonte außerdem, dass die Aufsicht klären will, ob die Plattform ihre rechtlichen Pflichten gegenüber europäischen Bürgerinnen und Bürgern erfüllt. Entscheidend sei nicht nur der Skandal selbst, sondern die Frage, wie X Risiken gesteuert hat – und ob Schutzmechanismen schon vor dem Rollout vorgesehen waren.
„Wir werden feststellen, ob X seinen rechtlichen Verpflichtungen nachgekommen ist … oder ob die Rechte europäischer Bürgerinnen und Bürger, einschließlich der Rechte von Frauen und Kindern, als Kollateralschaden behandelt wurden“, sagte Virkkunen.
Wie X reagiert – und was die Plattform zum Umgang mit Inhalten verspricht
Auf eine Anfrage von CNN verwiesen Vertreter von X auf eine Erklärung vom 14. Januar, die auf der Plattform veröffentlicht wurde. Darin betont das Unternehmen, es entferne Inhalte, die gegen Regeln verstoßen – darunter Material zu sexuellem Kindesmissbrauch (CSAM) sowie Nacktheit ohne Einwilligung. Zudem erklärte X, man gehe gegen Konten vor, die die Regeln verletzen, und informiere bei Bedarf Strafverfolgungsbehörden.
„Wir ergreifen Maßnahmen, um vorrangig regelwidrige Inhalte zu entfernen … einschließlich CSAM und Nacktheit ohne Einwilligung“, heißt es in der Erklärung von X vom 14. Januar.
Gleichzeitig räumte ein weiterer EU-Kommissionsvertreter in einem Briefing ein, dass X bestimmte Schritte unternommen habe. Er machte aber deutlich: Vor dem Start des Chatbots seien die Risiken aus Sicht der Aufsicht nicht ausreichend bewertet worden. Genau dieser Punkt könnte zum Kern der Vorwürfe im Grok-Verfahren werden.
Digital Services Act: Rechtsgrundlage und mögliche Konsequenzen
Die Untersuchung läuft auf Basis des Digital Services Act (DSA), der große Plattformen zu stärkerem Vorgehen gegen illegale und schädliche Inhalte sowie systemische Risiken verpflichtet. Einen festen Zeitplan für den Abschluss gibt es nicht, und die Kommission hat bisher nicht konkret benannt, welche Schritte sie aus den Ergebnissen ableiten könnte. Ein EU-Beamter, der anonym bleiben wollte, ließ jedoch durchblicken: Brüssel verfüge über mehrere Instrumente – und eine Geldstrafe sei möglich.
„Wir wollen das Verhalten der Plattform ändern“, sagte der Beamte in Gesprächen mit Journalisten.
Kontext: Frühere DSA-Strafe gegen X über 140 Millionen Dollar
Es ist nicht das erste Mal, dass X im Fokus des europäischen DSA-Regimes steht. Im Dezember verhängte die EU eine Geldstrafe von rund 140 Millionen US-Dollar und begründete dies mit einem „irreführenden Design“ der blauen Verifizierungsplakette sowie weiterer Funktionen. Elon Musk bezeichnete die Strafe damals als „verrückt“. Auf Nachfrage hieß es aus EU-Kreisen, dass die Summe zum Zeitpunkt der Auskunft noch nicht gezahlt sei, X aber weiterhin Zeit habe, die Zahlung zu regeln.
Kalifornien, Ofcom und Verbote in Indonesien und Malaysia
Der Druck auf Grok und X wächst nicht nur in Europa. Anfang dieses Monats kündigte Kaliforniens Generalstaatsanwalt Rob Bonta ebenfalls eine Untersuchung zur „Verbreitung nicht einvernehmlicher sexualisierter Inhalte an, die mit Hilfe von Grok erstellt wurden“. In Indonesien und Malaysia bleibt Grok wegen der Debatte um Bildgenerierung weiterhin gesperrt. Zudem hat der britische Regulierer Ofcom eine offizielle Untersuchung gegen X eingeleitet – ein weiteres Signal, dass die Auseinandersetzung um KI-Risiken und Plattformverantwortung längst international geworden ist.
Wenn dich solche Entwicklungen im Netz beschäftigen, lies auch, was aktuell in Hürth-Kalscheuren passiert ist, wo zwei Lagerhallen brannten und eine Rauchwolke Richtung Köln zog.