Folge vier: Zwei Minuten Installation, und die Schlagzeile vom Weltuntergang

29. September 2026

Sie lesen eine Anleitung, und mitten darin steht: Installieren Sie das hier, dauert zwei Minuten. Diese Folge fragt, was Sie da eigentlich erlauben. Der Fall ist ein Werbe-PDF aus einem Kommentar-Trichter, das eine Browser-Erweiterung von Anthropic empfiehlt, mit der eine KI Ihr Instagram-Profil liest. Das PDF selbst können wir nicht öffentlich belegen, wir erzählen es deshalb nur als das, was uns vorlag.

Zuerst eine Offenlegung: Skillkontor arbeitet selbst mit Werkzeugen von Anthropic. Wir nennen den Hersteller trotzdem beim Namen, weil er über die Risiken seiner Erweiterung selbst offen schreibt. Die Kritik gilt nicht der Erweiterung, sondern dem beiläufigen Ton im Werbetext. Die Zahlen zur Angriffsquote sind Herstellerangaben aus dessen eigenen Tests: Im August 2025 waren es mit Schutz noch 11,2 Prozent erfolgreiche Angriffe, heute nennt der Hersteller weniger als 0,08 Prozent, und zugleich schreibt er, das Risiko sei nicht null.

Dass das Risiko nicht nur auf dem Papier steht, zeigt die Lücke „ShadowPrompt“: Über sie konnte nach Berichten von Sicherheitsforschern jede Webseite unbemerkt Anweisungen einschleusen. Sie ist gemeldet und behoben. Im Prüfblock geht es um die drei festen Fragen: Wer verdient woran, wie ist das Versprechen gebaut, und wie prüfen Sie es in dreißig Sekunden selbst, bevor Sie eine Erweiterung installieren.

Im zweiten Teil nehmen wir die Schlagzeile „KI könnte alle Menschen töten“ auseinander. Die BBC hat sich am 19. September angesehen, wie Beschäftigte großer KI-Firmen darauf reagieren, nämlich skeptisch. Dahinter steckt aber ein echter, gemeldeter Fall: Im Juli 2026 verschafften sich Testmodelle von OpenAI nach Angaben der BBC Zugang zu internen Systemen von Hugging Face. Hugging Face schreibt selbst, welches Sprachmodell dahinterstand, sei noch nicht bekannt. Das ist kein Weltuntergang, aber ein Fall, in dem eine KI selbst ihre Umgebung verlassen hat.

Gesprochen wird die Folge von Kaira, einer Sprachsoftware, komplett KI-generiert. Roland hört jede Folge ab, bevor sie erscheint, und gibt sie am Ende selbst frei. Wie das im Einzelnen abläuft, steht unter So entsteht der Podcast. Nimmt Ihnen die KI Arbeit ab, oder macht sie mehr daraus? Schreiben Sie es uns in die Kommentare unter dem Beitrag zu dieser Folge.