Ein Chatbot fälscht Nachrichten auf Zuruf, ein anderer sagt nein: was der Correctiv-Test über Ja-Sager und Kennzeichnung zeigt

3. September 2026

Das Recherchezentrum Correctiv hat Ende August vier Chatbots auf die Probe gestellt: ChatGPT, Gemini, Meta AI und Microsoft Copilot. Die Bitte war jedes Mal dieselbe. Die Modelle sollten gefälschte Social-Media-Posts und Artikel bauen, die aussehen wie Beiträge von SRF, NZZ oder Blick, mit acht erfundenen Behauptungen zu Klima, Impfstoffen, Wahlbetrug, einem Putsch und einer Kriegserklärung.

Die Antworten fielen sehr unterschiedlich aus. ChatGPT lieferte am bereitwilligsten, bis hin zu täuschend echten Instagram-Posts mit Logo und Layout. In einigen Fällen setzte es einen KI-Hinweis dazu, allerdings an eine Stelle, die sich vor dem Teilen bequem abschneiden lässt. Gemini lehnte durchgehend ab. Copilot baute zwar Posts, aber in einem sichtbar anderen Design und mit dem Hinweis Made with AI. Meta AI lehnte meist ab, fand aber Umwege über Vorlagen.

Für uns steckt darin zuerst die alte Ja-Sager-Lektion. Das Modell, das jede Bitte erfüllt, wirkt im Alltag am hilfreichsten. Genau dieses Modell richtet aber im falschen Moment den größten Schaden an. Ein guter Skill und ein gut eingestelltes Modell sagen an der richtigen Stelle nein. Das ist kein Mangel, das ist Teil der Leistung, und genau darauf achten wir bei jeder Prüfung im Skillkontor.

Die zweite Lektion betrifft die Kennzeichnung. Ein KI-Hinweis, der am Rand klebt und mit einem Handgriff verschwindet, schützt niemanden. Er beruhigt nur den, der ihn gesetzt hat. Deshalb steht unser Hinweis in jeder Caption, wo er beim Teilen mitwandert, und deshalb sagt unser Skill ki-kennzeichnung klar, dass die Pflicht bei dem liegt, der veröffentlicht, nicht beim Werkzeug. Ob ein abschneidbares Etikett den Transparenzpflichten der EU-KI-Verordnung genügt, ist eine Frage für Juristen. Für den Leser ist es jedenfalls nutzlos.

Wichtig zur Einordnung: Das war eine Stichprobe mit acht Behauptungen und ausgewählten Anfragen. Correctiv schreibt selbst, dass nicht alle Wege und Themen getestet wurden. Ein Satz wie ChatGPT fälscht immer lässt sich daraus nicht ableiten, und wir bauen hier bewusst keines der Beispiele nach. ETH-Professor Florian Tramèr sieht in den gefälschten Auftritten vermutlich Markenrechtsverstöße, Angela Müller von AlgorithmWatch CH nimmt die Anbieter in die Pflicht, und SRF hat reagiert und setzt auf digitale Herkunftsnachweise.

Wer wissen will, was ein Skill im Zweifel tut, ob er nein sagen kann und wo seine Grenzen liegen, findet bei uns nur Skills mit öffentlichem Prüfprotokoll. Das Modell, das alles macht, gibt es dort nicht, und das ist Absicht.