Sicherheitslücke in KI-Bildgenerator: Eine Millionen (Nackt-)Bilder frei zugänglich

Ein Cybersicherheitsforscher hat sich in die Welt der KI-Bildgeneratoren vorgewagt und fand dabei einen Zugang zu einer riesigen, ungesicherten Datenbank. Im HTML-Quellcode der Seite MagicEdit.app ist er auf den Link zur Datenbank gestoßen. Sie soll über eine Million Dateien, genauer gesagt 1.099.985 Dateien, umfasst haben und ohne Passwortschutz sowie ohne Verschlüsselung gewesen sein. In einer Stichprobe fand er dort wohl größtenteils intime Bilder von Frauen und Mädchen, wie Jeremiah Fowler in einem Blogbeitrag berichtet. Er beschreibt diese Bilder als Deepfakes und Face-swaps. Viele sollen die Gesichter junger Frauen auf KI-erstellten, teils nackten Körpern gezeigt haben. Ebenso gab es anscheinend unbearbeitete Bilder, die jedoch ebenfalls ethische Fragen aufwerfen.

Die Datenbank gehörte wohl zum Unternehmen SocialBook, wie Wasserzeichen auf den Bildern und der in MagicEdit hinterlegte Link zur Datenbank nahelegen. SocialBook ist ein Unternehmen aus dem Silicon Valley, das sich auf KI-Tools für Influencer spezialisiert hat. Dessen Bildgenerator leitete Nutzer an MagicEdit.app weiter, eine Online-App, die auch als Anwendung im Apple App Store erhältlich war. Dort wurde BoostInsider Inc. als Publisher hinterlegt. Nach der Entschlüsselung der Firmenstruktur schickte Fowler eine Beschreibung der Sicherheitslücke an die Firmen, welche wohl prompt reagierten. Die Datenbank wurde umgehend gesichert, und die Seite magicedit.app ist mittlerweile nicht mehr erreichbar. Auch die App wurde wohl aus dem App Store entfernt.

Wie lange die Datenbank bereits ungesichert war, ist nicht bekannt, auch ist nicht bekannt, ob überhaupt Daten abgeflossen sind, oder ob der Cybersecurity-Experte der erste war, der die Sicherheitslücke entdeckt hat. Nur eine forensische Analyse seitens der Betreiber könnte hier Klarheit schaffen.

Die langfristigen Folgen solcher Bilder könnten erheblich sein. Die Bilder verletzen die Privatsphäre und könnten zu Missbrauch, Erpressung und Rufschädigung der Betroffenen führen. Es ist daher dringend notwendig, dass Unternehmen wie SocialBook und BoostInsider Inc. einen verantwortungsvolleren Umgang mit KI-Tools pflegen und sicherstellen, dass solche Sicherheitslücken nicht wieder auftreten. Zudem bleibt die Frage, ob KI-Tools nicht generell das Erstellen und Bearbeiten von Bildern nach realen Vorlagen verhindern sollten.