Sexualisierte Deepfakes: EU startet Verfahren gegen Elon Musks X und KI Grok

Der Vorwurf wiegt schwer: Es besteht der dringende Verdacht, dass Grok zur Erstellung und Verbreitung illegaler Inhalte genutzt wird. Die Kommission nennt explizit manipulierte, sexuell anstößige Bilder (Deepfakes) sowie generierte Inhalte, die sexuellen Kindesmissbrauch darstellen könnten. Henna Virkkunen, Exekutiv-Vizepräsidentin der Kommission, fand deutliche Worte für die Vorkommnisse. Sie bezeichnete sexualisierte Deepfakes von Frauen und Kindern als eine "gewalttätige, inakzeptable Form der Entwürdigung". Die Kommission wolle nun klären, ob X die Rechte europäischer Bürger als bloßen "Kollateralschaden" seines Dienstes behandle.

Rückenwind für das harte Vorgehen der EU kommt aus Berlin. Dr. Karsten Wildberger, Bundesminister für Digitales und Staatsmodernisierung (BMDS), begrüßte die Untersuchung umgehend. In einem Statement betonte Wildberger, es sei inakzeptabel, dass Frauen und Minderjährige wiederholt Opfer sexualisierter Deepfakes würden, während die Plattformen untätig blieben. Der Minister stellte klar: "Die EU-Kommission handelt richtig, indem sie den Digital Services Act konsequent durchsetzt - unsere europäischen Regeln gelten für alle gleichermaßen, auch für große Tech-Konzerne."

Zusätzlich zu diesem neuen Verfahren hat die Kommission eine bereits seit Dezember 2023 laufende Untersuchung gegen X ausgeweitet. Dabei geht es um die generellen Empfehlungssysteme der Plattform. Hintergrund ist die angekündigte Umstellung auf einen Algorithmus, der maßgeblich auf Grok basiert. Die EU-Beamten wollen prüfen, ob X die systemischen Risiken dieses Wechsels ordnungsgemäß analysiert hat, bevor die Funktion auf die Nutzer losgelassen wurde. Die Untersuchung erfolgt in enger Abstimmung mit Coimisiún na Meán, dem irischen Koordinator für digitale Dienste, da X seinen EU-Hauptsitz in Irland hat.

Sollten sich die Versäumnisse bestätigen, drohen X empfindliche Sanktionen wegen Verstößen gegen Artikel 34 und 35 des DSA. Die Plattform steht bereits unter erheblichem Druck der Regulierer: Erst im Dezember 2025 hatte die Kommission wegen mangelnder Werbetransparenz und irreführendem Design eine Geldbuße von 120 Millionen Euro gegen das Unternehmen verhängt. Damals ging es unter anderem um die sogenannten "Blue Checks", die Nutzer über die Vertrauenswürdigkeit von Accounts täuschen könnten. Im aktuellen Fall sammelt die Behörde nun Beweise durch Auskunftsersuchen und Inspektionen. Die Kommission behält sich ausdrücklich vor, einstweilige Maßnahmen zu verhängen, falls X keine wesentlichen Anpassungen am Dienst vornimmt, um die Verbreitung der illegalen KI-Bilder zu stoppen.