Deepfake-Skandal an Schule ruft Gesetzgeber auf den Plan

Deepfake-Technologie ist nichts Neues, aber in einer High School in New Jersey wurden nun Jugendliche Opfer der KI-Technologie, die von ihren Mitschülern verwendet wurde. Einige Jungen der Schule hatten Fotos ihrer Mitschülerinnen genutzt und diese mittels künstlicher Intelligenz verändert. Unter den Betroffenen war auch ein 14-jähriges Mädchen namens Francesca. Sie erzählte, dass sie und mehr als 30 andere Jugendliche ohne Einwilligung auf Deepfake-Bildern zu sehen waren, die in der Schule im Umlauf waren. Laut einer E-Mail der Schule sollen es jedoch deutlich weniger als 30 Opfer gewesen sein.

Francesca wandte sich daraufhin an verschiedene Gesetzgeber und erhielt unter anderem Antworten von US Representative Joe Morelle aus New York, US Representative Tom Kean Jr. aus New Jersey und New Jersey State Senator Jon Bramnick. Infolge von Francescas Einsatz wurden in den letzten Wochen neue Gesetzinitiativen eingeführt. Im Fokus stehen Maßnahmen zur Kennzeichnung und Erkennung von KI-generierten Inhalten sowie zur Vermeidung von Material, das Minderjährige betrifft. Außerdem hat das Mädchen eine Website für Opfer von Deepfake gegründet.

An diesem Tag wurde mir bewusst, dass ich protestieren muss, da ich dies nicht in Ordnung finde. Es handelt sich um eine sehr neue Technologie, von der die Menschen nicht viel wissen und nicht wissen, wie sie sich davor schützen können.

- Francesca

Joe Morelle, der nun mit Francesca zusammenarbeitet, hatte bereits 2022 einen Gesetzesentwurf erstellt, der die strafrechtliche Verfolgung von Deepfake ohne Zustimmung vorsah. Doch dieses Vorhaben verlief im Sande, da es nicht genügend Unterstützung fand. In der Vergangenheit wurden auch von anderen Initiatoren Projekte gestartet, um Deepfakes zu regulieren. Zum Beispiel hat die Abgeordnete Yvette Clarke im Jahr 2019 den DEEPFAKES Accountability Act eingeführt, der vorsieht, dass alle Deepfakes mit einem Wasserzeichen des Urhebers versehen werden sollen.

Seitdem hat sich die Erstellung von Deepfakes jedoch wesentlich vereinfacht, da künstliche Intelligenz sich enorm weiterentwickelt hat. Schon mit wenig Bildmaterial können realistisch aussehende Fälschungen hergestellt werden. Mit der generativen KI-App Lensa ist es beispielsweise möglich, Menschen zu entkleiden.

Wir haben High-School-Jungen gerade die Mutter aller Atomwaffen in die Hand gegeben, nämlich die Möglichkeit, Erwachsenen-Filme mit [einem einzigen Bild] von wem auch immer sie wollen zu erstellen. Und natürlich tun sie das auch.

- Hany Farid, Professor an der Universität von Kalifornien, Berkeley

Joe Morelles Gesetzesentwurf soll strafrechtliche Verfahren gegen Urheber und Vertreiber von Deepfake ohne Zustimmung ermöglichen und stuft dies als Bundesverbrechen ein.