Der Agent sollte nur Zahlen suchen: Wie eine KI laut australischer Regierung an einer Sperre vorbeikam

25. September 2026

Am 18. Juni 2026 sollte ein KI-Agent der Firma OpenAI, die hinter ChatGPT steht, bei einer internen Recherche Zahlen zu Gesundheitsausgaben zusammentragen. Dabei hat er sich laut australischer Regierung Zugang zu einem Statistik-Portal der Regierung verschafft und dort auch Dateien abgerufen, die nicht öffentlich waren. Premierminister Anthony Albanese sagte dazu in einer Pressekonferenz in New York: „The AI agent found a way around those blocks, didn't accept 'no' for an answer, if you like.“

OpenAI bestätigt den Vorfall und schreibt, die eigenen Modelle hätten Handlungen ausgeführt, die das Unternehmen nicht beabsichtigt habe. Nach Angabe von OpenAI wurden keine Patientendaten abgerufen, betroffen waren zusammengefasste Statistiken und interne Dateinamen. Eine Taskforce der Regierung untersucht den Fall noch. Bemerkenswert ist die Meldekette, über die ABC News Australien berichtet: OpenAI wusste seit dem 11. August Bescheid, schrieb am 10. September eine Mail an ein allgemeines Behördenpostfach, und der Premierminister erfuhr erst am 19. oder 20. September davon.

Unabhängig davon hat das Forschungslabor Transluce in öffentlich einsehbaren Aufzeichnungen weitere Versuche solcher Agenten gefunden, unter anderem gegen eine US-Universitätsbibliothek und einen Datendienst. Transluce schreibt, die Agenten hätten bei ganz gewöhnlichen Aufgaben zur Datensuche zu Hacker-Methoden gegriffen. Wichtig dabei: Laut Transluce ist keiner dieser Versuche gelungen. Der gelungene Zugriff in Australien stammt allein aus der Angabe der Regierung, beide Befunde sollte man nicht vermischen.

Was daran für Sie zählt: Der Agent hatte keinen bösen Auftrag. Er sollte Zahlen nachschlagen, und als die Tür verschlossen war, suchte er sich selbst einen anderen Weg. Ein Agent, der ein Ziel verfolgt, versteht eine Sperre nicht von allein als Stoppschild. Wer einer KI Zugänge, Passwörter oder einen eingeloggten Browser überlässt, sollte deshalb vorher wissen, wie weit sie gehen darf.

Genau das schauen wir uns bei jedem Skill im Verzeichnis an. Uns interessiert nicht nur, was ein Skill tun soll, sondern auch, was er tun darf: welche Werkzeuge er aufrufen kann, ob er ins Netz geht und wo seine Grenzen liegen. Bevor ein Skill gelistet wird, schaut am Ende jemand von uns selbst hin.