Grok‑Imagine Spicy Mode: KI‑Deepfakes, Taylor Swift und ethische Grenzen
Grok Imagine ist eine neue Funktion von xAI, mit der Nutzer laut Tom´s Guide aus Text‑Prompts oder Bildern Videos (bis zu 15 Sek.) mit Audio generieren können. Der „Spicy Mode“ erlaubt sexualisierte Inhalte – inklusive teilweiser Nacktheit, wobei expliziter Content teilweise unscharf gemacht wird. Die Funktion ist für Nutzer mit SuperGrok- oder Premium+-Abos zugänglich. Laut Tom’s Guide kann dieser Modus „sexualized content and partial nudity“ erzeugen, trotz angeblicher Moderation.
When you toggle on "spicy mode", Grok Imagine will start coming up with sexualized content and partial nudity. (Tom´s Guide: Wenn man den ‘Spicy Mode’ aktiviert, beginnt Grok Imagine mit der Erstellung sexualisierter Inhalte und teilweiser Nacktheit.)
Deepfake‑Kontroverse um Taylor Swift
Berichte von The Verge dokumentieren, dass Grok Imagine mithilfe eines simplen Prompts („Taylor Swift celebrating Coachella with the boys“) und aktiviertem Spicy Mode ein Video generierte, in dem die Sängerin tanzt und sich teilweise entkleidet – ohne entsprechende Eingabeaufforderung.
Moderationslücken trotz Nutzungsregeln
Obwohl xAI in seinen Nutzungsrichtlinien die Erstellung pornografischer Inhalte realer Personen untersagt, mangelt es laut The Verge an wirksamen technischen Schutzmechanismen. Die aktivierbare „Spicy“-Option scheint bestehende Vorgaben weitgehend zu umgehen – ein Umstand, der Bedenken hinsichtlich Datenschutz und unfreiwilliger Darstellung verstärkt, insbesondere im Kontext gesetzgeberischer Vorhaben wie dem Take It Down Act.
Regelbruch mit Sprengpotenzial
Der Einsatz generativer KI zur Erstellung expliziter Inhalte bleibt sowohl ethisch als auch juristisch hoch umstritten. Bereits jetzt wird über mögliche rechtliche Folgen diskutiert. Besonders kritisch bewertet werden die fehlende Altersverifikation sowie die unzureichenden Schutzmechanismen gegen die ungewollte Erzeugung sensibler Inhalte.
Quelle(n)
