Anthropic legt offen, wofür seine KI missbraucht wurde, und wo die eigene Sicht endet

12. September 2026

Anthropic hat am 11. September 2026 einen Bericht darüber veröffentlicht, wofür die eigenen Modelle missbraucht wurden. Er deckt Dezember 2025 bis August 2026 ab und ordnet die Fälle sieben Feldern zu: Cyberoperationen, Einflussoperationen, Überwachung, Betrug, biologischer Missbrauch, konventionelle Waffen und das unerlaubte Absaugen von Antworten, um damit fremde Modelle zu trainieren. Bei letzterem nennt der Bericht ein Netz aus rund 3.500 betrügerischen Konten, das binnen weniger Monate 151 Millionen Antworten abgezogen hat.

Der Fall, der am lautesten nachhallt, steht bei den konventionellen Waffen. Ein Ingenieur-Team im Nordjemen ließ Claude Code Steuerungs-, Navigations- und Regelungssoftware für drei Raketenprogramme schreiben, eines davon mit einer angestrebten Reichweite von über 2.000 Kilometern. Dazu kommen ein vermutlich russisches Team, das einen autonomen Drohnenschwarm baute, und ein chinesisches Team mit einer Software-Suite für elektronische Kriegsführung. Wie das technisch ging, lassen wir hier bewusst weg, das gehört nicht in einen Blogbeitrag.

Der Satz, um den es uns geht, steht aber nicht bei den Waffen, sondern bei der eigenen Prüfung. Anthropic schreibt wörtlich: „Our visibility into these operations ends once it's live." Die Sichtbarkeit endet also, sobald eine Operation draußen läuft. Zu einer Wahlkampagne in Malaysia heißt es, man könne die vom Akteur selbst gemeldeten Zahlen nicht unabhängig prüfen. Bei einer französischen Propaganda-Kampagne weiß der Hersteller nicht, wer sie in Auftrag gegeben hat. Und wenn das Modell eine Anfrage ablehnte, verhandelte der Akteur laut Bericht einfach eine entschärfte Formulierung nach, die zur selben Fähigkeit führte.

Zur Einordnung gehört, dass dies Anthropics eigene Offenlegung ist und keine unabhängige Untersuchung. Wir wissen, was der Hersteller berichtet, und wir wissen es in der Auswahl, die er trifft. Trotzdem ist der Bericht ungewöhnlich offen, weil er die eigenen blinden Flecken benennt, statt sie zu verschweigen. Spott wäre hier fehl am Platz.

Für uns ist das die Fortsetzung eines Themas, das sich seit Wochen zieht. Ein Skill ist Text, der einem Modell erklärt, was angeblich erlaubt ist. Wer nur diese Erklärung liest, hat die Erklärung geprüft und sonst nichts. Darum läuft SKILL//CHECK ohne Werkzeuge und ohne Netz über den Text selbst, und darum sitzt am Ende eine Person, die anschaut, was ein Skill tut, nicht was er über sich sagt. Was dabei herauskommt, steht als Ampel-Protokoll offen auf skillkontor.de.