ChatGPT: Was der Trainings-Schalter alles nicht stoppt

In den Einstellungen von ChatGPT gibt es einen Schalter, der beruhigt. Er heißt "Improve the model for everyone", steht unter Data Controls, und wer ihn umlegt, hat das Gefühl, die Sache erledigt zu haben. Ab jetzt lernt die KI nichts mehr von mir.

Das stimmt sogar. Nur genau so weit, wie der Satz reicht, den OpenAI selbst dazu schreibt: "Once you opt out, new conversations will not be used to train our models." Zwei Einschränkungen stecken schon in diesem einen Satz. Es geht um neue Unterhaltungen, und es geht ums Training. Für alles andere ist der Schalter nicht zuständig.

Was der Schalter wirklich tut

Er sorgt dafür, dass deine Gespräche ab dem Umlegen nicht mehr in das Training der Modelle einfließen. Er gilt für das ganze Konto, egal ob du am Rechner oder am Handy sitzt, und du kannst ihn jederzeit zurückstellen. Für den Sprachmodus gibt es eine eigene Einstellung.

Was er nicht tut, schreibt OpenAI ebenso deutlich hin. Die Unterhaltungen bleiben im Verlauf stehen, sie werden nur nicht mehr fürs Training benutzt. Und weil der Verlauf bleibt, bleibt auch alles, was daraus entstanden ist. Da beginnt der Teil, den die meisten übersehen.

Erstens: Der Daumen hebelt den Schalter aus

Auf derselben Seite, auf der das Kernversprechen steht, folgt wenig später ein Satz, der es wieder aufmacht. Wer eine Antwort mit Daumen hoch oder Daumen runter bewertet, gibt damit Feedback. Und dann kann laut OpenAI die gesamte zu diesem Feedback gehörende Unterhaltung für das Training verwendet werden. Ausdrücklich auch dann, wenn du vorher ausgestiegen bist.

Das ist der einzige dokumentierte Fall, in dem trotz ausgeschaltetem Regler ein komplettes Gespräch im Training landen kann. Ausgelöst wird er von einer Geste, die die meisten für eine Höflichkeit halten. Für Unterhaltungen mit dem Support gilt dasselbe.

Zweitens: Der Schalter kennt keine Vergangenheit

OpenAI formuliert die Zusage für die Zukunft, nicht als Rückruf. Was vor dem Umlegen zusammengekommen ist, konnte für das Training verwendet werden, denn für Privatkonten behält sich die Firma genau das vor. Der Opt-out wirkt ab dem Moment, in dem du ihn setzt. Einen Satz über eine Rückwirkung habe ich auf keiner der Hilfeseiten gefunden.

Drittens: Erinnerungen sind ein zweites System

Memory ist die Funktion, mit der sich ChatGPT Dinge über dich merkt, damit du sie nicht jedes Mal wiederholen musst. Sie hängt nicht am Trainings-Schalter, sondern liegt unter Personalisierung. Und sie ist zäher, als sie aussieht.

Die Zusammenfassung in den Einstellungen zeigt nicht alles. Sie soll die wichtigsten Details erfassen, aber laut OpenAI eben nicht alles, woran sich ChatGPT aus den Chats erinnert. Auf die eigene Frage, ob die Zusammenfassung alle Erinnerungen enthält, lautet die Antwort schlicht "Not necessarily".

Der Punkt mit der größten Sprengkraft steht weiter unten. Wer die Erinnerungen löscht und Memory abschaltet, löscht damit nicht die alten Chats. Schaltet er Memory später wieder an, kann ChatGPT aus dem verbliebenen Verlauf neue Erinnerungen bauen, ausdrücklich auch aus älteren Gesprächen. Die gelöschte Erinnerung kann also zurückkommen.

Dazu kommt: Im älteren Erinnerungssystem überlebt eine Erinnerung das Löschen des Chats, aus dem sie stammt. Und von gelöschten Erinnerungen kann OpenAI bis zu 30 Tage ein Protokoll behalten.

Viertens: Verbundene Apps spielen nach eigenen Regeln

Wer Gmail, Drive, Canva oder einen anderen Dienst mit ChatGPT verbunden hat, hat einen zweiten Kanal geöffnet. Bei Free, Plus, Go und Pro kann OpenAI Informationen aus verbundenen Apps für das Training nutzen, sofern der Schalter an ist. Bei Business, Enterprise und Edu ist das ab Werk nicht der Fall.

Hier deckt der Schalter also. Was er nicht deckt, ist die Gegenrichtung. Die App sieht Ausschnitte aus deinen Unterhaltungen, bei eingeschaltetem Memory auch Inhalte aus deinen Erinnerungen, dazu IP-Adresse, Geräte- und Browsertyp, Sprache, Region und ungefähren Standort. Dafür gelten die Bedingungen des Anbieters, nicht die von OpenAI.

Fünftens: Löschen heißt nicht überall löschen

Ein gelöschter Chat verschwindet sofort aus dem Konto und ist zur endgültigen Löschung innerhalb von 30 Tagen vorgemerkt. Mit zwei Ausnahmen, die OpenAI selbst nennt: wenn der Chat bereits anonymisiert und von dir getrennt wurde, oder wenn eine Aufbewahrung aus Sicherheits- oder Rechtsgründen nötig ist.

Praktisch wichtiger sind die Dateien. Wer ein Dokument oder ein Bild in eine Unterhaltung hochgeladen hat, findet es in der Library wieder, und die ist getrennt. Das Löschen eines Chats löscht keine Datei, die in der Library liegt. Dasselbe gilt für Dateien in einem Projekt oder einem eigenen GPT. Die bleiben, bis das Projekt oder der GPT selbst gelöscht wird.

OpenAI zieht daraus selbst den Schluss: Wer etwas vollständig aus dem Wissen von ChatGPT entfernen will, muss jede Quelle löschen, in der es vorkommt.

Sechstens: Die Sicherheitsprüfung läuft immer

Auf der Hilfeseite zu den Data Controls steht ein Hinweis, den man leicht überliest. Das Abschalten von Memory und Personalisierung deaktiviert keine Sicherheitsfunktionen, die in seltenen Situationen mit hohem Risiko begrenzten sicherheitsrelevanten Kontext verwenden, damit ChatGPT angemessener antwortet. Dafür gibt es keinen Schalter.

Auch der temporäre Chat, den viele für einen Inkognito-Modus halten, macht hier keine Ausnahme. Er wird nicht fürs Training genutzt, erzeugt keine Erinnerungen und verschwindet nach 30 Tagen. Aus Sicherheitsgründen kann OpenAI trotzdem bis zu 30 Tage eine Kopie behalten und sie zur Missbrauchskontrolle ansehen. Deine hinterlegten Anweisungen greifen dort ebenfalls weiter.

Was du konkret machst

Wer es ernst meint, braucht mehrere Griffe statt einem. Erstens den Schalter selbst, unter Profil, Einstellungen, Data Controls. Zweitens Personalisierung, Memory, dort die Zusammenfassung löschen und die Funktion abschalten. Diese Möglichkeit gibt es laut OpenAI im Web, auf dem Handy wird sie noch ausgerollt. Drittens die Library aufräumen, weil dort die Dateien liegen, die das Löschen der Chats nicht erwischt. Viertens unter Einstellungen, Apps nachsehen, welche Dienste verbunden sind, und trennen, was du nicht brauchst.

Und fünftens: den Daumen liegen lassen. Eine Bewertung ist die einzige Geste, die ein ganzes Gespräch trotz Opt-out ins Training schicken kann.

Für Unterhaltungen, die möglichst wenig Spuren hinterlassen sollen, ist der temporäre Chat das bessere Werkzeug. Nicht der Trainings-Schalter. Wie weit die Datenwege inzwischen reichen, zeigt die neue Aufzeichnungsfunktion für den Mac, die seit dem 20. August auch in Deutschland verfügbar ist.