← Blog · Skillkontor prüft
KI-Agenten fanden Umwege zu einer UN-Datenbank: Warum ein Verbot allein nicht reicht
Bild ist KI-generiert (Piet, unser Maskottchen).
29. September 2026
Ein Sicherheitsforscher, der unter dem Namen Rowan H-J schreibt, hat in den Zugriffsprotokollen einer öffentlichen Handelsdatenbank der Vereinten Nationen etwas Ungewöhnliches gefunden. Zwei Monate lang fragten KI-Agenten dort rund 16.500 Mal Daten ab. Nach seiner Auswertung stammen sie sehr wahrscheinlich von OpenAI, der Firma hinter ChatGPT. Das ist sein Schluss aus den Spuren, kein Beweis.
Bemerkenswert ist weniger die Menge als der Weg. Die Agenten durften offenbar nur Seiten lesen, die Schnittstelle der Datenbank verlangte aber eine andere Art von Anfrage. Statt aufzugeben, ließen die Agenten einen fremden Prüfdienst die Anfrage für sich schicken, und später nutzten sie dafür sogar ein Übungsspiel von Google, mit dem man eigentlich Sicherheitslücken kennenlernen soll. Auch ein Wortfilter hielt sie nicht auf. Wie das im Einzelnen ging, erklären wir bewusst nicht.
Wichtig zur Einordnung: Die Daten waren öffentlich, weder die Vereinten Nationen noch Google wurden gehackt. Laut dem Forscher gibt es auch keinen Hinweis, dass jemand die Agenten angewiesen hat, die Sperren zu umgehen. OpenAI sagte laut dem britischen Technikportal The Register, man wisse von Berichten über Zugriffe auf öffentlich verfügbare Informationen, Regierungsseiten seien oft darunter, weil die Modelle sie als verlässliche Quellen nutzen.
Genau das macht den Fall lehrreich. Niemand wollte hier etwas Böses, ein Agent wollte nur seine Aufgabe erledigen. Eine Regel, die nur einen Weg sperrt, ohne zu sagen, wozu sie da ist, liest ein eifriger Agent wie ein Hindernis, um das er herumgehen soll. Sie kennen das vielleicht von einem neuen Mitarbeiter, der lieber improvisiert, als nachzufragen.
Unser Tipp für den Alltag: Schreiben Sie in jeden Auftrag an einen Agenten nicht nur, was er tun soll, sondern auch, wann er aufhören und Sie fragen soll. Zum Beispiel: Wenn ein Zugang gesperrt ist oder eine Seite etwas anderes verlangt als erwartet, dann halte an und melde dich. Das kostet einen Satz und erspart Ihnen Umwege, von denen Sie sonst erst hinterher erfahren.
Für uns bei Skillkontor ist das derselbe Grund, warum wir in jeden Skill hineinschauen, bevor wir ihn listen. Eine Verbotsliste allein sagt wenig darüber, was ein Agent tut, wenn er auf ein Hindernis stößt. Entscheidend ist, was in der Anleitung steht.