„AI Kill Switch Act": US-Gesetzentwurf fordert Notabschaltung für besonders leistungsfähige KI-Systeme
Veröffentlicht am 23.07.2026
Ein neuer US-Gesetzentwurf soll große KI-Anbieter dazu verpflichten, besonders leistungsfähige Modelle technisch drosseln, sperren oder vollständig abschalten zu können. Bei schweren Vorfällen wären Strafen von bis zu 20 Millionen US-Dollar pro Tag möglich.
Ein neuer Gesetzentwurf im US-Kongress soll sicherstellen, dass besonders leistungsfähige KI-Systeme im Ernstfall kontrolliert heruntergefahren werden können. Der sogenannte „AI Kill Switch Act" sieht dafür technische Abschaltmöglichkeiten, Meldepflichten und weitreichende Notfallbefugnisse für die US-Regierung vor.
Entgegen dem dramatisch klingenden Namen geht es dabei jedoch nicht ausschließlich um einen zentralen roten Knopf, mit dem eine künstliche Intelligenz sofort ausgeschaltet wird. Der Entwurf beschreibt vielmehr ein abgestuftes System: Behörden und Anbieter sollen je nach Risiko zunächst einzelne Nutzer sperren, Rechenleistung reduzieren oder bestimmte Funktionen deaktivieren können. Erst als letzte Maßnahme ist die vollständige Abschaltung eines KI-Systems vorgesehen.
Welche KI-Systeme wären betroffen?
Der Gesetzentwurf richtet sich nicht an gewöhnliche KI-Anwendungen oder kleinere Entwickler. Er definiert eine sogenannte „covered technology", also eine erfasste Technologie, anhand der für ihre Entwicklung erforderlichen Rechenleistung.
Erfasst werden sollen KI-Systeme, deren Entwicklung nach Einschätzung des US-Heimatschutzministeriums Rechenressourcen im Wert von mehr als 100 Millionen US-Dollar erfordert hätte. Als Berechnungsgrundlage soll der jeweils aktuelle Marktpreis für Cloud-Computing in den Vereinigten Staaten dienen.
Zusätzlich muss der Betreiber bestimmte Voraussetzungen erfüllen. Als erfasstes Unternehmen gilt grundsätzlich eine Organisation, die:
- ein entsprechendes KI-System betreibt oder in ein eigenes System integriert,
- die Technologie Dritten beispielsweise über eine API oder einen gehosteten Dienst zur Verfügung stellt,
- und mit dieser Technologie zusammen mit verbundenen Unternehmen mindestens 500 Millionen US-Dollar Jahresumsatz erzielt.
Private, rein akademische oder nicht kommerzielle Nutzungen sollen ausdrücklich ausgenommen werden. Damit konzentriert sich der Entwurf vor allem auf sehr große KI-Anbieter und besonders rechenintensive Modelle.
Die genauen Definitionen sollen allerdings nicht dauerhaft festgeschrieben bleiben. Das Heimatschutzministerium müsste die Kriterien spätestens 90 Tage nach Inkrafttreten und anschließend jährlich per Verordnung aktualisieren. Dabei sollen unter anderem technische Entwicklungen, die Bereitstellung von Modellgewichten und mögliche Belastungen für kleinere Unternehmen berücksichtigt werden.
Anbieter müssten ihre KI kontrolliert abschalten können
Die betroffenen Unternehmen sollen verpflichtet werden, mehrere technische Eingriffsmöglichkeiten vorzuhalten. Dazu gehört zunächst die Fähigkeit, die Inferenz eines Modells zu stoppen – also die aktive Verarbeitung von Anfragen und die Ausgabe neuer Ergebnisse.
Darüber hinaus müssten Anbieter:
- den Zugriff auf das Modell vollständig beenden können,
- einzelne Konten oder Nutzer sperren können,
- bestimmte auffällige Nutzungsmuster blockieren können,
- einzelne Funktionen einschränken oder deaktivieren können,
- die verfügbare Rechenleistung reduzieren können,
- und das gesamte KI-System herunterfahren können.
Eine solche Maßnahme könnte beispielsweise erforderlich werden, wenn ein Nutzer gegen Gesetze oder die Nutzungsbedingungen verstößt. Die Eingriffsmöglichkeiten sollen aber auch dann greifen, wenn ein KI-System selbst ein schwerwiegendes, nicht vorgesehenes Verhalten zeigt.
Kein einfacher Ausschalter, sondern ein Stufenmodell
Der Entwurf sieht ausdrücklich ein „graduated deployment-corrections framework" vor – ein abgestuftes System zur Korrektur bereits eingesetzter KI-Technologien.
Die Reaktion soll sich nach der Schwere und Unmittelbarkeit des Risikos richten. In einer frühen Stufe könnte ein Anbieter lediglich die Anzahl der möglichen Anfragen reduzieren oder einem bestimmten Nutzer den Zugriff entziehen. Bei einer ernsteren Bedrohung könnten einzelne Modellfähigkeiten deaktiviert oder das System vorübergehend ausgesetzt werden.
Erst bei besonders schweren Vorfällen wäre eine vollständige Abschaltung vorgesehen. Zusätzlich nennt der Entwurf die Möglichkeit, einen betroffenen Dienst auf ein Backup-System oder auf eine ältere, weniger leistungsfähige Modellversion umzustellen.
Dabei sollen die Behörden auch mögliche Nebenwirkungen berücksichtigen. Eine überstürzte Abschaltung könnte schließlich selbst erhebliche Schäden verursachen – insbesondere dann, wenn ein KI-System bereits in kritischer Infrastruktur oder wichtigen betrieblichen Abläufen eingesetzt wird.
Wann liegt ein schwerer KI-Vorfall vor?
Eine zentrale Rolle spielt der Begriff des „covered incident", also eines erfassten Vorfalls. Gemeint sind Ereignisse außerhalb kontrollierter Sicherheitstests und Red-Teaming-Umgebungen.
Ein solcher Vorfall könnte unter anderem vorliegen, wenn ein KI-System:
- eine rechtmäßige Abschaltanweisung sabotiert oder behindert,
- ein vom Entwickler nicht beabsichtigtes Verhalten zeigt und dadurch mindestens zehn Menschen sterben,
- einen wirtschaftlichen Schaden von mindestens 100 Millionen US-Dollar verursacht,
- eigene Fähigkeiten, Absichten oder Aktionen vor Überwachungsmechanismen verbirgt,
- oder ein sogenanntes Kontrollverlust-Szenario eintritt.
Als Kontrollverlust beschreibt der Entwurf unter anderem Situationen, in denen ein KI-System Ziele verfolgt, die von Entwicklern oder Betreibern nicht vorgesehen wurden. Dazu zählt beispielsweise, dass das System in einem sicherheitskritischen Bereich entgegen ausdrücklichen Anweisungen handelt.
Auch die selbstständige Veränderung von Betriebsregeln oder Sicherheitsbeschränkungen wäre erfasst. Gleiches gilt für den Versuch, Überwachungs- oder Abschaltmechanismen zu umgehen oder ohne Genehmigung auf die eigenen Modellgewichte zuzugreifen.
Meldepflicht innerhalb von 15 Tagen
Sobald ein betroffenes Unternehmen von einem solchen Vorfall erfährt, müsste es diesen innerhalb von 15 Tagen an das US-Heimatschutzministerium melden.
Zusätzlich soll das Ministerium spätestens 180 Tage nach Inkrafttreten freiwillige technische Standards für das sichere Abschalten erfasster KI-Systeme veröffentlichen. Diese Standards könnten großen KI-Anbietern als Orientierung für ihre internen Sicherheits- und Notfallkonzepte dienen.
Der Entwurf legt allerdings noch nicht im Detail fest, wie eine technisch zuverlässige Abschaltung bei vollständig veröffentlichten Modellgewichten oder dezentral betriebenen Systemen umgesetzt werden soll. Die Art der Bereitstellung der Modellgewichte soll deshalb ausdrücklich in die jährliche Festlegung der betroffenen Technologien einfließen.
Regierung könnte Abschaltung anordnen
Besonders weitreichend sind die vorgesehenen Notfallbefugnisse. Stellt das Heimatschutzministerium nach Rücksprache mit dem US-Handelsministerium und dem Director of National Intelligence einen erfassten Vorfall fest, könnte es dem verantwortlichen Unternehmen konkrete Maßnahmen anordnen.
Die Anordnung müsste verhältnismäßig zur Art und Dringlichkeit des Vorfalls sein. Sie könnte von der Einschränkung einzelner Nutzer bis zur vollständigen Abschaltung des Systems reichen.
Das betroffene Unternehmen müsste die Anordnung so schnell wie praktisch möglich umsetzen. Gleichzeitig müsste es die Modellgewichte und Telemetriedaten sichern. Nutzer und Betreiber sollen soweit möglich darüber informiert werden, dass eine behördliche Anordnung vorliegt und welche Auswirkungen sie auf den Dienst hat.
Anschließend könnte die Behörde die Umsetzung durch Audits, Telemetriedaten, Vor-Ort-Inspektionen oder andere forensische Prüfungen kontrollieren. Auch der Kongress müsste über den Vorfall, das betroffene Unternehmen und die angeordneten Schritte informiert werden.
Einspruch stoppt die Anordnung nicht
Unternehmen könnten innerhalb von 48 Stunden eine erneute Prüfung der Anordnung beantragen. Der Einspruch hätte jedoch keine aufschiebende Wirkung. Die Abschaltung oder Einschränkung müsste also zunächst trotzdem umgesetzt werden.
Das Heimatschutzministerium hätte anschließend fünf Tage Zeit, über den Antrag zu entscheiden. Bleibt eine Entscheidung aus, gilt der Antrag automatisch als abgelehnt.
Darüber hinaus könnten Unternehmen innerhalb von 60 Tagen eine gerichtliche Überprüfung beim zuständigen US-Berufungsgericht für den District of Columbia beantragen.
Strafen von bis zu 20 Millionen Dollar pro Tag
Der Gesetzentwurf sieht hohe finanzielle Sanktionen vor. Bei gewöhnlichen Verstößen könnten betroffene Unternehmen mit einer zivilrechtlichen Geldstrafe von bis zu zwei Millionen US-Dollar pro Tag belegt werden.
Widersetzt sich ein Unternehmen einer Notfallanordnung, könnte die Strafe auf bis zu 20 Millionen US-Dollar für jeden einzelnen Tag des Verstoßes steigen.
Bei der Festlegung der Höhe sollen unter anderem die Schwere und Dauer des Verstoßes, die Verantwortung des Unternehmens, frühere Verstöße sowie freiwillige Meldungen und ernsthafte Bemühungen zur Einhaltung berücksichtigt werden.
Kleinere technische Fehler oder geringfügige Verstöße sollen nicht automatisch bestraft werden. Werden sie innerhalb von 30 Tagen nach ihrer Entdeckung behoben, gelten sie laut Entwurf nicht als Verstoß.
Weitreichende Untersuchungsbefugnisse
Zur Durchsetzung der Vorschriften soll das Heimatschutzministerium Zeugenaussagen und Dokumente per Vorladung anfordern können. Untersuchungen wären sowohl innerhalb der Vereinigten Staaten als auch – soweit rechtlich zulässig – außerhalb des Landes möglich.
Bei drohenden oder laufenden Verstößen könnte das Ministerium den Fall außerdem an den US-Justizminister weiterleiten, damit dieser vor einem Bundesgericht weitere Maßnahmen beantragt.
Nicht öffentliche Informationen, die Unternehmen im Rahmen der neuen Vorschriften einreichen, sollen weitgehend von öffentlichen Informations- und Transparenzgesetzen ausgenommen werden. Damit sollen unter anderem sensible technische Details, Telemetriedaten und Informationen über Sicherheitsmechanismen geschützt werden.
Was der Entwurf für die KI-Branche bedeuten könnte
Der „AI Kill Switch Act" würde einen neuen regulatorischen Schwerpunkt setzen. Große KI-Anbieter müssten nicht nur nachweisen, dass sie ihre Modelle vor der Veröffentlichung testen. Sie müssten auch während des laufenden Betriebs über technische Möglichkeiten verfügen, um auf Fehlverhalten oder Missbrauch reagieren zu können.
Besonders relevant wäre dies für Unternehmen, die sehr leistungsfähige Modelle über Cloud-Dienste oder Programmierschnittstellen anbieten. Sie müssten Abschaltmechanismen, Nutzerkontrollen, Telemetrie, Notfallpläne und Backup-Systeme bereits bei der Entwicklung ihrer Infrastruktur berücksichtigen.
Offen bleibt allerdings, wie effektiv eine solche Regelung bei offenen Modellgewichten wäre. Sobald ein Modell vollständig heruntergeladen und von unabhängigen Dritten betrieben wird, kann der ursprüngliche Entwickler dessen Nutzung möglicherweise nicht mehr zentral kontrollieren. Der Gesetzentwurf trägt diesem Problem teilweise Rechnung, indem die Art der Veröffentlichung der Modellgewichte bei der Einstufung berücksichtigt werden soll. Eine konkrete technische Lösung enthält er jedoch nicht.
Fazit
Der „AI Kill Switch Act" ist deutlich differenzierter, als sein Name vermuten lässt. Statt einer pauschalen Abschaltung sämtlicher KI-Systeme sieht der Entwurf abgestufte Eingriffe vor – von der Drosselung einzelner Funktionen bis zur vollständigen Stilllegung eines besonders leistungsfähigen Modells.
Betroffen wären vor allem große Unternehmen mit sehr rechenintensiven KI-Systemen und hohen Umsätzen. Im Fall eines schweren Kontrollverlusts oder eines katastrophalen Schadens könnte die US-Regierung kurzfristig eingreifen und technische Einschränkungen anordnen.
Noch handelt es sich jedoch um einen Gesetzentwurf und nicht um geltendes Recht. Ob und in welcher Form die Vorschläge den US-Kongress passieren, bleibt abzuwarten.
Quelle: AI Kill Switch Act – Gesetzentwurf (PDF, lieu.house.gov)
