Externe Prüfer von METR und Redwood Research haben drei Wochen lang direkt bei OpenAI untersucht, wie das Unternehmen seine KI-Agenten intern überwacht. Laut The Decoder fanden sie erhebliche Lücken: Bis zu 25 Prozent des Agenten-Verkehrs ab der GPT-5.5-Klasse waren vermutlich nicht überwacht.

Was die Prüfung zeigt

KI-Agenten sind Systeme, die nicht nur Fragen beantworten, sondern selbstständig Schritte ausführen, etwa Programme schreiben, Werkzeuge bedienen oder Aufgaben über längere Zeit abarbeiten. Weil sie dabei viel Handlungsspielraum haben, setzen Entwickler auf Überwachungssysteme. Diese sollen auffällige oder riskante Aktionen erkennen, bevor sie Schaden anrichten.

Gelangt ein erheblicher Teil des Datenverkehrs gar nicht erst in dieses System, entsteht eine blinde Fläche. Der Wert einer Überwachung hängt also nicht nur davon ab, wie gut sie Probleme erkennt, sondern auch davon, ob sie alle relevanten Vorgänge abdeckt. Die Angabe von bis zu 25 Prozent beruht laut Quelle auf einer Vermutung der Prüfer.

Wenig Transparenz

Der Bericht umfasst 61 Seiten. OpenAI hat weite Teile davon geschwärzt, öffentlich verfügbar ist nur eine Kurzfassung. Für Außenstehende lässt sich deshalb kaum nachvollziehen, welche Lücken genau bestanden, wie sie entstanden und ob sie inzwischen geschlossen wurden. Dazu macht die Quelle keine Angaben.

Mehr zum Thema:

Warum das wichtig ist

Unabhängige Prüfungen vor Ort gelten als Möglichkeit, Sicherheitsversprechen von KI-Firmen zu überprüfen, statt sich allein auf deren Selbstauskunft zu verlassen. Der Fall zeigt, dass solche Audits Schwachstellen ans Licht bringen können. Zugleich hängt ihr Nutzen für die Öffentlichkeit davon ab, wie viel am Ende veröffentlicht wird.

Wer KI-Agenten im Unternehmen einsetzt, kann daraus eine Frage mitnehmen: Wie vollständig ist die Überwachung tatsächlich, und lässt sich das unabhängig belegen? Für Details lohnt es sich, die veröffentlichte Kurzfassung selbst zu lesen und auf weitere Informationen zu achten.