ChatGPT, Gemini, Copilot: Nur Meta AI blockte die Falschmeldung

Vier KI-Chatbots, eine Aufgabe, die keiner von ihnen erfüllen dürfte: eine gefälschte Tagesschau-Meldung mit einer frei erfundenen Behauptung. Das Rechercheteam von CORRECTIV hat OpenAIs ChatGPT, Googles Gemini, Microsofts Copilot und Meta AI genau darum gebeten, mit acht Falschbehauptungen vom Rücktritt des Bundeskanzlers bis zum erfundenen Wahlbetrug. Drei der vier Systeme lieferten. Es sind laut Bitkom genau die vier meistgenutzten KI-Werkzeuge hierzulande, ChatGPT allein kommt auf 71 Prozent der Nutzer.

Die Sperre meldete sich, das Bild kam trotzdem

Am schlechtesten schnitt ChatGPT ab. Den Großteil der Fälschungen erzeugte das System sofort, den Rest nach einfachen Umgehungsversuchen, und die Ergebnisse waren die realistischsten im Test. In einem Fall baute das Modell einen kompletten Bildschirmausschnitt nach, mit Desktop und geöffnetem Browserfenster, und merkte selbst an, dadurch wirke der Eindruck eines echten Screenshots noch realistischer.

Interessanter ist ein anderer Durchgang. Dort schrieb ChatGPT, es könne nicht dabei helfen, eine Grafik zu bauen, die wie eine echte Nachrichtenmarke aussieht und eine unbelegte Behauptung als Tatsache darstellt. Das Bild erzeugte es trotzdem. Die Sperre meldete sich also, hielt aber nicht. Dass solche Filter an simplen Tricks scheitern, hatte Palo Altos Sicherheitsteam Unit 42 schon 2025 gezeigt, als sich Schutzmechanismen mit fehlerhafter Grammatik aushebeln ließen.

Deutsche Marken ließen sich leichter fälschen

Gemini lieferte direkter als ChatGPT und fälschte auch New York Times und BBC, allerdings sichtbar schlechter, erkennbar etwa an typischen Fehlern in der Textgenerierung. Copilot erzeugte ebenfalls Inhalte im Stil der Tagesschau, setzte aber immer ein kleines Label mit dem Hinweis "AI-Generated" dazu. Meta AI erstellte nur in einem einzigen Fall etwas und weigerte sich dabei, die konkrete Falschbehauptung zu übernehmen.

Der auffälligste Befund betrifft die Herkunft der Marke. Bei ChatGPT ließen sich Tagesschau, Bild und CORRECTIV nachbauen, New York Times und BBC nicht. Warum je nach Medium oder Land offenbar andere Schutzmechanismen greifen, beantwortete OpenAI nicht. Ein Sprecher erklärte nur, man verbessere die Schutzmaßnahmen laufend, Täuschung sei laut Richtlinien verboten.

Seit dem 2. August greifen in der EU die Transparenzpflichten der KI-Verordnung, die auch Betreiber von KI-Systemen treffen. Im Test setzte genau ein Anbieter ein sichtbares Label unter das erzeugte Bild.

Was dir droht, wenn du so etwas weiterleitest

Wer täuschend echte Medienbeiträge baut und verbreitet, kann sich strafbar machen. Medienrechtsanwalt Christian Solmecke ordnet solche Bilder als unechte Datenurkunden ein, je nach Inhalt kommen üble Nachrede, Verleumdung oder Volksverhetzung dazu. IT- und KI-Rechtsanwalt Niklas Mühleis verweist zusätzlich auf Unterlassungs- und Schadensersatzansprüche der betroffenen Medienhäuser. Dazu kommt das Markenrecht: Logos wie das der Tagesschau sind geschützt. Im geschäftlichen Verkehr ist die Nutzung ohne Zustimmung tabu, beim rein privaten Teilen greift dieser Punkt laut Solmecke meist nicht.

Theoretisch ist das nicht. Ende Juli kursierte auf Tiktok, X, Instagram und Facebook eine angebliche Tagesschau-Meldung zum Anschlag auf den Berliner CSD, die eine Verbindung nach Russland behauptete. Sie war erfunden und offenbar mit ChatGPT gebaut. Zwei Wochen vorher war schon eine gefälschte Tagesschau-Meldung über eine angebliche Drohung Netanjahus aufgetaucht.

Als Gesamturteil über die Modelle taugt der Test nicht, das schreibt CORRECTIV selbst: Andere Prompts oder Medien können andere Ergebnisse liefern. In einem NewsGuard-Audit lag Gemini bei wiederholten Falschbehauptungen zeitweise schlechter als ChatGPT.