← Blog · Skillkontor prüft
Wer prüft den Prüfer? Der Anthropic-Chef will fremde Kontrolleure ins eigene Haus holen
Bild ist KI-generiert (Piet, unser Maskottchen).
13. September 2026
Dario Amodei, der Chef von Anthropic, hat im September einen Essay mit dem Titel „We must pace the frontier“ veröffentlicht. Darin steht ein Satz über die eigenen Sicherheitsberichte, der ungewöhnlich offen ist: „we are still the ones choosing what to include and omit“. Die Firma, die ihre Modelle baut, entscheidet also auch, was die Öffentlichkeit über deren Risiken erfährt.
Amodei zieht daraus einen Schluss. Er will externe Prüfer mit eigenem Arbeitsplatz im Haus, nach dem Vorbild der Bankenaufsicht, und nennt als Beispiel die Prüforganisation METR. Ihre Rechte sollen „mostly comparable“ zu denen der internen Risiko-Teams sein. Veröffentlichen sollen sie ihre Befunde „without editorial control by Anthropic“. Schwärzen dürfe Anthropic nur Sicherheitskritisches, Rechtliches, Geschäftsgeheimnisse und Daten Dritter, „but we can't redact findings just because they are unfavorable“.
Wichtig für die Einordnung: Das ist ein Vorschlag, noch keine gelebte Praxis. Im Essay heißt es, Anthropic „intends to invite“ solche Prüfer in naher Zukunft. Dazu kommen zwei weitere Ideen, nämlich gemeinsame Sicherheitsstandards der Firmen in demokratischen Ländern und ein gestuftes Abkommensmodell, das die Geschwindigkeit der KI-Selbstverbesserung begrenzen soll. Einen Entwicklungsstopp meint Amodei ausdrücklich nicht: „Pacing does not mean halting model training.“ Fair dazugesagt: Laut einer Schlagzeile von the-decoder bereitet derselbe Chef zur selben Zeit einen großen Börsengang vor, im Essay selbst kommt das nicht vor.
Uns betrifft das direkt, weil wir bei Skillkontor genau diese Frage jeden Tag beantworten müssen. Ein Skill, den sein Autor selbst für sicher erklärt, ist noch nicht geprüft. Wer auswählt, was im Bericht steht, prüft sich am Ende selbst, auch mit den besten Absichten. Darum steht bei uns am Ende der Prüfung eine Person, die den Skill nicht geschrieben hat und nicht davon abhängt, wie das Ergebnis ausfällt.
Dass ausgerechnet ein großer Hersteller diese Lücke beim Namen nennt, halten wir für einen guten Schritt. Ob daraus echte unabhängige Prüfung wird, zeigt sich erst, wenn die ersten Befunde von außen veröffentlicht sind, auch die unbequemen.