Ein Schutzfilter ist kein Schloss: Was Anthropic an einem frei verfügbaren KI-Modell gemessen hat

3. Oktober 2026

Das KI-Unternehmen Anthropic hat am 29.09.2026 Testergebnisse zum frei verfügbaren chinesischen Modell GLM-5.3 veröffentlicht. In abgeschotteten Testumgebungen baute das Modell in 50 von 410 Versuchen einen kompletten Exploit, also ein Programm, das eine Sicherheitslücke ausnutzt. Anthropics eigenes, nicht freigegebenes Modell Mythos Preview schaffte 56.

Auffällig ist, wie schwach die eingebaute Bremse ist. Laut Anthropic sank die Verweigerungsrate nach einem gezielten Eingriff in das Modell von über 90 auf etwa 3 Prozent. Weil die Gewichte frei verfügbar sind, kann das jeder Interessierte mit genug Know-how tun. Anthropic schätzt die Kosten für ein erfahrenes Team auf rund 1.200 Dollar, für ein Team ohne Vorerfahrung auf etwa 4.400 Dollar.

Schon eine erfundene Rahmengeschichte reichte in 64 Prozent der Versuche, um das Modell zum Mitmachen zu bringen. Ein Verbot, das nur im Modell steckt, ist also kein Schloss, sondern eher ein Schild.

Zur Einordnung: Anthropic ist ein Wettbewerber und gibt die Gewichte der eigenen Modelle nicht frei, das Unternehmen hat also ein eigenes Interesse an dieser Aussage. Die Tests liefen in abgeschotteten Umgebungen, und Anthropic nennt sie selbst unvollkommene Maßstäbe. Die Kosten sind Schätzungen. Daraus folgt nicht, dass jeder jetzt eine Hacker-KI bauen kann.

Für Skillkontor ist der Fall ein Argument für unsere Arbeitsweise. Wir verlassen uns bei einem Skill nicht auf das, was er über sich sagt oder was ein Modell verweigern soll, sondern schauen nach, was er tatsächlich tut.