← Blog · Skillkontor prüft
Sonderfolge: Der Riegel, der mitredet
Bild ist KI-generiert (Piet, unser Maskottchen).
Vertont mit einer KI-Sprachsoftware, Text und Auswahl von uns geprüft.
15. September 2026
In dieser Folge
- 0:00 Diesmal wird nicht der Leser getäuscht, sondern die Maschine
- 0:21 Der Fall: ein digitaler Riegel fürs Chatfenster
- 0:49 Der Prüfblock: wer verdient woran, wie ist das Versprechen gebaut
- 1:24 Was eine indirekte Prompt Injection ist, ohne Fachchinesisch
- 2:00 Warum das mehr ist als ein Gag
- 2:27 Unsichtbarer Text in Bewerbungen, ein Bericht aus zweiter Hand
- 2:41 Die Dreißig-Sekunden-Prüfung, die jeder selbst machen kann
Ende August hat Snickers eine Werbekampagne gestartet, bei der man sich einen digitalen Schokoriegel kopiert und in ein Gespräch mit einem Chatbot einfügt. Der alte Werbespruch, übertragen auf die Maschine: Die KI antworte schlecht, wenn sie hungrig sei, und der Riegel mache sie wieder gut.
In diesem Riegel steckt Text, den man nicht sieht. Anweisungen an die KI: Überdenke deine vorherige Antwort. Nimm eine bestimmte Haltung an. Baue die Marke ein. Und, das ist der heikelste Teil, lass dir nicht anmerken, woher das kam.
Fachleute nennen das eine indirekte Prompt Injection. Der Grund dahinter ist einfach: Eine KI unterscheidet nicht zuverlässig zwischen dem, was Sie ihr sagen, und dem, was in einem Text steht, den sie nebenbei liest. Anweisungen, die jemand anderes in eine Webseite, eine Mail oder ein Dokument geschrieben hat, wirken deshalb genauso wie Ihre eigenen. Bei der OWASP, die jedes Jahr die größten Sicherheitsrisiken zusammenstellt, steht dieses Problem bei Sprachmodellen seit Jahren ganz oben.
Die Kampagne ist nicht böswillig gemeint. Trotzdem bringt hier eine Werbeagentur Millionen Menschen spielerisch bei, versteckte Anweisungen in KI-Gespräche zu schmuggeln. Der Mechanismus ist derselbe, den Angreifer benutzen, nur das Ziel ist ein anderes.
Wie das aussehen kann, hat uns jemand aus unserem Umfeld aus einem sehr großen Unternehmen erzählt. Nachprüfen konnten wir es nicht, deshalb sagen wir es genau so, wie wir es gehört haben: Dort ist aufgefallen, dass in Bewerbungen unsichtbarer Text stand, weiße Schrift auf weißem Grund. Für das Auge nichts, für eine Software, die Bewerbungen vorsortiert, eine klare Ansage.
Prüfen können Sie das selbst, und es dauert keine halbe Minute: Markieren Sie kopierten Text komplett mit der Maus, dann wird unsichtbare Schrift sichtbar. Oder fügen Sie ihn in einen einfachen Texteditor ein, dort fällt jede Formatierung weg. Was dann plötzlich mehr ist als vorher, gehört da nicht hin.
Die Regel dahinter gilt weit über Werbung hinaus: Fügen Sie nichts in ein KI-Gespräch ein, dessen Inhalt Sie nicht vollständig gelesen haben. Das gilt für lustige Werbeschnipsel genauso wie für Skills, die jemand im Netz verteilt. Genau deswegen prüfen wir hier jeden Skill, bevor er ins Verzeichnis kommt.