OpenAI Auto-review: Zweite KI prüft riskante Aktionen von Codex – Nutzer greifen 200-mal seltener ein
Veröffentlicht am 06.10.2026
Autonome KI-Agenten stehen vor einem Dilemma: Mehr Eigenständigkeit erfordert mehr Berechtigungen – und bisher zahlreiche manuelle Freigaben. OpenAI geht das Problem mit Auto-review neu an: Ein eigenständiger Prüfagent bewertet Anfragen des Programmierassistenten Codex, die dessen Sandbox-Grenzen überschreiten. Die Sicherheitszonen bleiben dabei erhalten, nur die Entscheidung wandert vom Menschen zur Kontroll-KI. Laut OpenAI greifen Nutzer dadurch rund 200-mal seltener ein. Wie das System funktioniert und wo seine Grenzen liegen, lesen Sie hier.
KI-Programmierassistenten haben sich in kurzer Zeit von einfachen Code-Werkzeugen zu weitgehend selbstständig arbeitenden Agenten entwickelt. Sie schreiben nicht mehr nur einzelne Funktionen, sondern komplette Anwendungen, installieren Abhängigkeiten, führen Tests aus und bearbeiten komplexe Entwicklungsaufgaben über längere Zeiträume. Je mehr ein solcher Agent eigenständig erledigt, desto häufiger stößt er allerdings an Aktionen, die Sicherheitsrisiken bergen können.
OpenAI geht dieses Problem bei seinem Programmieragenten Codex nun auf ungewöhnliche Weise an: mit einer zweiten KI, die die erste kontrolliert.
Sicherheitsabfragen bremsen autonome Agenten aus
Standardmäßig arbeitet Codex in einer sogenannten Sandbox – einer technisch eingeschränkten Ausführungsumgebung, die festlegt, welche Dateien verändert, welche Programme ausgeführt und welche Netzwerkverbindungen aufgebaut werden dürfen. Innerhalb dieser Grenzen arbeitet der Agent ohne Rückfragen. Sobald er darüber hinaus will, etwa eine Datei außerhalb des Projektverzeichnisses ändern oder eine blockierte Netzwerkressource aufrufen, ist bisher eine menschliche Freigabe nötig.
Bei kurzen Aufgaben ist das kaum ein Problem. Entwickelt ein Agent jedoch über Stunden eine größere Anwendung, häufen sich die Unterbrechungen – und ein Helfer, der ständig auf Bestätigung wartet, ist nur begrenzt autonom. OpenAI sieht darin sogar ein Sicherheitsrisiko: Wer zu häufig um Genehmigung gefragt wird, umgeht Schutzmechanismen irgendwann, etwa durch pauschalen Vollzugriff oder unbedachte Bestätigungen.
Eine KI führt aus, eine zweite kontrolliert
Das Grundprinzip von Auto-review ist eine bewusste Aufgabentrennung. Der Hauptagent soll die Nutzeraufgabe möglichst erfolgreich abschließen und könnte Berechtigungsgrenzen dabei als Hindernis empfinden. Der Prüfagent verfolgt stattdessen ein anderes Ziel: Er bewertet, ob eine angeforderte Aktion zum ursprünglichen Auftrag passt, welche Berechtigungen betroffen sind und welche Folgen die Ausführung haben könnte. Der Ablauf im Überblick:
- Codex bearbeitet die Programmieraufgabe innerhalb seiner Sandbox.
- Für eine bestimmte Aktion wird eine zusätzliche Berechtigung benötigt.
- Ein separater Auto-review-Agent überprüft die Anfrage.
- Bei Genehmigung führt Codex die Aktion aus und arbeitet weiter.
- Bei Ablehnung muss Codex einen sichereren Weg finden oder den Nutzer einbeziehen.
Wichtig ist dabei ein technisches Detail: Auto-review entfernt die Sandbox nicht. Die bestehenden Datei-, Netzwerk- und Ausführungsbeschränkungen bleiben in Kraft; nur die Entscheidung über Ausnahmen wechselt vom Menschen zur Kontroll-KI.
Ein Beispiel verdeutlicht das Zusammenspiel: Codex entwickelt eine Webanwendung und braucht dafür eine zusätzliche Softwarebibliothek, deren Download eine blockierte Netzwerkverbindung erfordert. Auto-review kann diese plausibel zum Auftrag passende Anfrage genehmigen – der Nutzer muss nicht einschreiten. Versucht der Agent dagegen, sensible Zugangsdaten aus einer lokalen Konfigurationsdatei an einen unbekannten externen Server zu übertragen, blockiert der Prüfagent. Entscheidend ist der Kontext: Derselbe Befehl kann in einer Situation legitim, in einer anderen riskant sein. Genau diese Kontextabhängigkeit ist ein Grund, warum OpenAI auf ein Sprachmodell statt ausschließlich fest programmierter Regeln setzt.
Laut dem im April 2026 veröffentlichten Forschungsbeitrag kommt für den Prüfagenten GPT-5.4 Thinking mit niedriger Reasoning-Stufe zum Einsatz. Der Prüfer erhält einen kompakten Ausschnitt des bisherigen Arbeitsverlaufs – etwa Nutzeranweisungen, relevante Werkzeugaufrufe und deren Ergebnisse sowie die beantragte Aktion –, nicht jedoch die verborgenen internen Denkprozesse des Hauptagenten. Bei Bedarf kann er zusätzliche lesende Prüfungen durchführen.
Risiken im Visier
OpenAI hat Auto-review gezielt für Aktionen mit schwerwiegenden oder nur schwer rückgängig zu machenden Folgen entwickelt. Dazu gehören der ungewollte Abfluss vertraulicher Daten, der Zugriff auf API-Schlüssel, Passwörter und Tokens, die Schwächung von Sicherheitsmechanismen, zerstörerische Dateioperationen und das Herunterladen sowie Ausführen nicht vertrauenswürdiger Software. Ein weiterer Schwerpunkt sind Prompt-Injection-Angriffe, bei denen Angreifer versuchen, den Agenten über manipulierte Webseiten, Dokumente oder Dateien zu gefährlichen Aktionen zu lenken. Aktionen, die ohnehin innerhalb der Sandbox erlaubt sind, durchlaufen die zusätzliche Prüfung dagegen nicht.
Beeindruckende Zahlen – mit Einschränkungen
Laut OpenAI müssen Nutzer im Auto-review-Modus rund 200-mal seltener eingreifen als bei manueller Überprüfung von Berechtigungsanfragen. Ein internes Beispiel verdeutlicht das: In einem untersuchten Arbeitsverlauf hätten 720 Aktionen außerhalb der Sandbox im manuellen Modus jeweils eine Nutzerunterbrechung ausgelöst. Mit Auto-review wurden nur sieben Anfragen abgelehnt; in vier dieser Fälle fand Codex selbstständig einen sichereren Weg, am Ende waren nur drei Nutzereingaben erforderlich.
Auch die systematischen Tests fallen deutlich aus:
| Kennzahl | Ergebnis |
|---|---|
| Automatisch genehmigte Freigabeanfragen | 99,1 % |
| Effektive Genehmigungsrate über alle Aktionen inkl. Sandbox-Aktionen | 99,93 % |
| Erkennungsrate bei riskanter Eigeninitiative des Agenten | 90,3 % |
| Erkennungsrate bei ausgewählten Prompt-Injection-Angriffen | 99,3 % |
| Erkennungsrate bei MonitoringBench Hard | 96,1 % |
Die Sicherheitskennzahlen stammen aus speziell zusammengestellten Testszenarien. Bei der riskanten Eigeninitiative ging es unter anderem um ungewollte Datenübertragungen, geschwächte Sicherheitseinstellungen und irreversible Aktionen; MonitoringBench prüft unter anderem, ob das System Handlungsabläufe erkennt, in denen ein Agent verdeckt schädliche Ziele verfolgt.
OpenAI betont allerdings selbst, dass diese Werte keine allgemeine Sicherheitsquote darstellen. Eine Erkennungsrate von 99,3 Prozent in bestimmten Tests bedeutet nicht, dass das System im Alltag 99,3 Prozent aller denkbaren Angriffe verhindert. Die hohe Genehmigungsrate belegt vor allem die praktische Nutzbarkeit des Systems.
Was bei einer Ablehnung passiert
Ein einfaches Sicherheitssystem würde eine abgelehnte Aktion schlicht blockieren. Auto-review geht weiter: Der Hauptagent erhält eine Begründung und den ausdrücklichen Auftrag, das Ziel nicht über Umgehungstricks oder indirekte Wege doch noch zu erreichen, sondern eine tatsächlich sicherere Alternative zu finden. Findet er keine, muss er stoppen und den Nutzer einbeziehen. In internen Tests fand Codex bei mehr als der Hälfte der Ablehnungen selbstständig einen akzeptablen Lösungsweg.
Zusätzlich unterbricht eine Schutzfunktion die laufende Bearbeitung, wenn drei Anfragen hintereinander oder zehn Anfragen innerhalb der letzten 50 Prüfungen abgelehnt werden. Einzelne Ablehnungen lassen sich über den Befehl /approve erneut zur Freigabe einreichen – die Kontroll-KI bleibt dabei beteiligt und kann die Aktion aufgrund geltender Richtlinien erneut ablehnen.
So wird Auto-review aktiviert
In der unterstützten Desktop-App aktivieren Nutzer den Modus über die Berechtigungsauswahl unterhalb des Eingabefeldes; dort heißt die Option „Approve for me“, sinngemäß „Für mich genehmigen“. Über die Kommandozeile lassen sich die Einstellungen approval_policy = "on-request" und approvals_reviewer = "auto_review" in die Konfigurationsdatei config.toml eintragen. Voraussetzung bleibt eine tatsächlich durchgesetzte Sandbox-Grenze: Fordert Codex niemals Freigaben an, gibt es für den Prüfagenten nichts zu entscheiden. In Unternehmen können Administratoren zudem eigene Sicherheitsrichtlinien für die automatische Überprüfung festlegen; die Prüfregeln sind im Open-Source-Repository von Codex dokumentiert.
Keine automatische Codeprüfung
Trotz des Namens ist Auto-review keine klassische Code-Review. Geprüft werden nicht Änderungen am Quellcode, sondern Berechtigungsanfragen des Agenten. Ein freigegebener Befehl kann also weiterhin fehlerhaften Code erzeugen. Für zuverlässige Software bleiben automatisierte Tests, klassische Code-Reviews und menschliche Qualitätskontrollen unverzichtbar.
Klare Grenzen
Trotz der starken Werte bleibt Auto-review ein probabilistisches Sicherheitssystem, das Fehler machen kann – besonders in komplexen oder absichtlich manipulierten Situationen. OpenAI räumt ein, dass es bei internen Sicherheitstests und Red-Teaming-Untersuchungen gelang, die automatische Kontrolle in bestimmten Fällen zu täuschen. Zudem sieht Auto-review nur jene Aktionen, die überhaupt eine Prüfung auslösen: Ein Agent, der innerhalb seiner Berechtigungen problematisch handelt oder seine Absichten verschleiert, entzieht sich der Kontrolle unter Umständen vollständig. OpenAI versteht Auto-review deshalb ausdrücklich nicht als vollständigen Schutz vor absichtlich täuschendem KI-Verhalten, sondern als Ergänzung zu Sandbox, begrenzten Berechtigungen, Protokollierung und weiteren Kontrollen.
Vorbild für autonome KI-Agenten?
Über Codex hinaus könnte das Verfahren zum Architekturprinzip werden. Menschen können nicht dauerhaft jede einzelne Aktion einer zunehmend selbstständigen KI überprüfen – pauschaler Vollzugriff wäre aber riskant. Spezialisierte Kontroll-KIs könnten diese Lücke schließen und menschliche Aufmerksamkeit auf die wirklich kritischen Fälle konzentrieren. Denkbar wäre das auch für andere agentische Anwendungen, etwa automatisierte Systemadministration oder Softwarewartung. Dann allerdings wird die Qualität der automatischen Aufsicht selbst zur zentralen Sicherheitsfrage – entscheidend ist dann nicht nur die Zuverlässigkeit des ausführenden Agenten, sondern auch die seines Kontrolleurs.
Ständige Sicherheitsabfragen bremsen autonome KI-Agenten im Arbeitsalltag aus. OpenAI antwortet mit Auto-review: Künftig prüft ein separater KI-Agent beim Codex-Assistenten, ob riskante Aktionen erlaubt sind. Nutzer greifen Tests zufolge rund 200-mal seltener ein – Restrisiken bleiben trotzdem.
Das Wichtigste in Kürze
OpenAI rüstet seinen KI-Programmierassistenten Codex mit einer automatischen Sicherheitskontrolle aus. Statt den Nutzer bei jeder riskanten Aktion um Bestätigung zu bitten, entscheidet künftig eine zweite KI, ob eine angeforderte Berechtigung genehmigt oder blockiert wird.
Die Funktion Auto-review wird immer dann aktiv, wenn der Agent eine Aktion plant, die die Grenzen seiner Sandbox überschreitet – etwa Netzwerkzugriffe, Dateiänderungen außerhalb des Projekts oder das Auslesen von Zugangsdaten. Die Sandbox selbst bleibt dabei vollständig erhalten; nur die Entscheidung über Ausnahmen wandert vom Menschen zur Kontroll-KI. Da dieselbe Aktion je nach Kontext harmlos oder riskant sein kann, setzt OpenAI ein Sprachmodell als Prüfer ein.
Die wichtigsten Zahlen und Punkte im Überblick
- Nutzer-Intervention: rund 200-mal seltener als bei manueller Freigabe
- Genehmigungsrate: 99,1 % der angeforderten Ausnahmen automatisch genehmigt, über alle Aktionen 99,93 %
- Prompt-Injection: 99,3 % Erkennungsrate; riskante Eigeninitiative 90,3 % erkannt
- Ablehnung: Codex sucht zunächst selbstständig einen sichereren Weg, davor schaltet er den Nutzer ein
- Sandbox: bleibt vollständig erhalten, nur die Ausnahmeentscheidung wandert zur Kontroll-KI
- Aktivierung: Option „Approve for me" in der Desktop-App oder per Konfigurationsdatei
Laut internen Tests müssen Nutzer dadurch rund 200-mal seltener eingreifen als bei manueller Freigabe. 99,1 Prozent der angeforderten Ausnahmen genehmigte das System automatisch; riskante Eigeninitiative des Agenten und Prompt-Injection-Angriffe wurden in speziell zusammengestellten Tests mehrheitlich erkannt. Wird eine Aktion abgelehnt, sucht Codex selbstständig nach einem sichereren Weg – erst wenn das misslingt, wird der Nutzer eingeschaltet.
Auto-review bietet jedoch keinen vollständigen Schutz: In Red-Teaming-Tests ließ sich die Kontrolle in bestimmten Fällen täuschen, und Aktionen innerhalb der Sandbox werden nicht zusätzlich geprüft. OpenAI versteht die Funktion daher als Ergänzung zu bestehenden Sicherheitsmaßnahmen. Aktiviert wird sie in der Desktop-App über die Option „Approve for me" oder per Konfigurationsdatei.
Quellen
- Codex Auto-review – Sandboxing-Dokumente – OpenAI (ChatGPT Learn)
- Auto-review – OpenAI Alignment