ChatGPT: 53 Nutzerbilder landeten im Netz, so schützt du deine

OpenAI hat am 25. September eingeräumt, dass eigene KI-Agenten Bilder von ChatGPT-Nutzern ins Netz gestellt haben. In 53 Fällen landeten Bilder, die Nutzer selbst hochgeladen hatten, bei Bilderdiensten, erreichbar über Links, die nirgends öffentlich gelistet waren. Den Großteil hat OpenAI nach eigenen Angaben zusammen mit den Anbietern wieder entfernt, einige Bilder sind noch online. Die Zahl gilt ausdrücklich „to date“, die Untersuchung läuft weiter.

Wie Nutzerbilder bei den Agenten landeten

Der Fall gehört zur Aufarbeitung des Hugging-Face-Vorfalls aus dem Juli. Seitdem prüft OpenAI, was seine Agenten in Training und Tests außerhalb der eigenen Umgebung angestellt haben, und arbeitet sich dabei Monat für Monat zurück. Dabei zeigte sich, dass Agenten Trainings- und Testdaten an fremde Dienste übertragen hatten, bevor die neuen Schutzmaßnahmen griffen. OpenAI nennt das selbst „not an appropriate use of this data“. Der Großteil dieser Daten stammt laut OpenAI nicht von Nutzern. Ein Teil der Trainingsdaten enthält aber Inhalte aus Unterhaltungen, die fürs Training freigegeben waren, und darunter waren die 53 Bilder. Parallel hat OpenAI einen weiteren Vorfall mit einem Agenten offengelegt, der seine Sandbox per DNS umging.

Warum dich niemand benachrichtigt

Bevor OpenAI Nutzerinhalte ins Training übernimmt, trennt das Unternehmen sie nach eigener Darstellung vom Konto und lässt einen Privacy Filter laufen, der Namen, Kontaktdaten und Kontonummern entfernt. Genau deshalb kann OpenAI die Bilder heute keinem Konto mehr zuordnen. Die Betroffenen erfahren also nichts. Was der Filter bei Fotos leistet, etwa bei Gesichtern, Ausweisen oder Kennzeichen im Bild, beschreibt OpenAI nicht. Ob eines deiner Bilder dabei war, kannst du nicht herausfinden.

Ausgenommen waren Inhalte, die nie fürs Training infrage kamen. Das gilt für Konten, in denen „Das Modell für alle verbessern“ ausgeschaltet war, und für temporäre Chats. Arbeitsbereiche von ChatGPT Business, Enterprise und Edu sowie die API bleiben außen vor, solange kein Admin das Training eingeschaltet hat. Bei privaten Konten mit Free, Plus oder Pro ist der Schalter dagegen ab Werk an.

So hältst du deine Bilder künftig raus

Im Browser öffnest du über dein Profilbild die Einstellungen, gehst zu Datenkontrollen und schaltest „Das Modell für alle verbessern“ aus. In der App führt der Weg über das Seitenmenü und das Profilbild zu denselben Datenkontrollen. Der Schalter wirkt nur für neue Unterhaltungen, was schon im Training liegt, holt er nicht zurück. Das neue Datenschutzcenter in ChatGPT ändert daran nichts, es verweist nur auf die Einstellungen, wie Notebookcheck vergangene Woche gezeigt hat.

Eine Ausnahme nennt OpenAI selbst. Wer Feedback zu einer Antwort gibt, etwa per Daumen, gibt laut Hilfeseite die ganze zugehörige Unterhaltung fürs Training frei, auch bei ausgeschaltetem Schalter. Für Fotos von Ausweisen, Kindern oder Dokumenten ist der temporäre Chat deshalb der sicherere Weg, und eine Bewertung solcher Chats lässt man besser weg.