USA: Gesetzentwurf will künstliche Superintelligenz verbieten und fortgeschrittene KI vorerst stoppen

Veröffentlicht am 23.09.2026

USA: Gesetzentwurf will künstliche Superintelligenz verbieten und fortgeschrittene KI vorerst stoppen
Sprachausgabe

Ein neuer US-Gesetzentwurf von Bernie Sanders und Greg Casar zielt auf eine deutlich strengere Kontrolle leistungsfähiger KI. Künstliche Superintelligenz soll vollständig verboten werden, während besonders rechenintensive KI-Systeme bis zum Aufbau einer neuen Bundesbehörde pausieren müssten. Vorgesehen sind laufende Prüfungen, Genehmigungen vor der Veröffentlichung und harte Sanktionen bei Verstößen.

US-Senator Bernie Sanders und der demokratische Abgeordnete Greg Casar wollen die Entwicklung besonders leistungsfähiger KI in den USA deutlich stärker begrenzen. Mit dem „Ban Artificial Superintelligence Act of 2026“ schlagen sie ein dauerhaftes Verbot künstlicher Superintelligenz, eine vorübergehende Pause für fortgeschrittene KI-Systeme und die Gründung eines eigenen US-Ministeriums für Künstliche Intelligenz vor.

Die vorliegende Senatsfassung wurde von Sanders eingebracht. Der Entwurf befindet sich damit im Gesetzgebungsverfahren und ist noch kein geltendes Recht. Die dazu veröffentlichte Mitteilung von Sanders und Casar begründet die Initiative vor allem mit der Sorge, dass immer leistungsfähigere KI-Systeme Fähigkeiten entwickeln könnten, die sich menschlicher Kontrolle entziehen oder erhebliche Sicherheitsrisiken verursachen.

Superintelligenz soll grundsätzlich verboten werden

Der Gesetzentwurf definiert „künstliche Superintelligenz“ sehr weitreichend. Darunter soll ein KI-System fallen, das die kognitive Leistungsfähigkeit von Menschen in den meisten Bereichen übertrifft oder sich leicht entsprechend verändern lässt. Ebenfalls erfasst wären Systeme, die nach der Definition des Entwurfs genügend Fähigkeiten besitzen, um die Zerstörung oder Entmachtung der Menschheit zu planen und auszuführen – ausdrücklich einschließlich einer Untergrabung oder eines Umsturzes der US-Bundesregierung.

Solche Systeme dürften nach dem Entwurf weder entwickelt noch eingesetzt, erworben, besessen, finanziert, importiert oder übertragen werden. Das Verbot würde außerdem KI-Systeme erfassen, die bestimmte Vorläufermerkmale einer möglichen Superintelligenz aufweisen.

Zu diesen Merkmalen zählen unter anderem die Fähigkeit, KI-Forschung stark zu automatisieren oder zu beschleunigen, ohne Erlaubnis auf geschützte digitale oder physische Infrastruktur zuzugreifen, Abschaltversuche zu umgehen, die Entwicklung nuklearer, chemischer oder biologischer Waffen zu unterstützen, die eigenen Funktionen selbstständig zu verändern oder menschliche Aufsicht durch Täuschung zu umgehen.

Vorübergehende Pause für besonders rechenintensive KI

Neben dem dauerhaften Verbot von Superintelligenz sieht der Entwurf eine sofortige Pause für sogenannte „advanced artificial intelligence systems“ vor. Als fortgeschritten gilt dem Text zufolge zunächst ein System, dessen Training mindestens 10^25 Integer- oder Gleitkommaoperationen benötigt. Diese Schwelle soll jährlich angepasst werden, damit Fortschritte bei der Trainingseffizienz berücksichtigt werden.

Während der Pause dürften solche Systeme grundsätzlich nicht weiter trainiert, verändert oder feinabgestimmt werden. Ausnahmen wären lediglich Maßnahmen, die gefährliche Vorläufermerkmale entfernen oder ein System außer Betrieb setzen. Noch nicht veröffentlichte fortgeschrittene KI-Systeme dürften in diesem Zeitraum zudem nicht neu eingesetzt werden.

Die Pause wäre nicht auf eine feste Zahl von Monaten oder Jahren begrenzt. Sie soll erst enden, wenn die neu vorgesehene Bundesbehörde vollständig besetzt ist und verbindliche Regeln für eine sichere Entwicklung und Bereitstellung fortgeschrittener KI erlassen hat.

Eigenes US-Ministerium für Künstliche Intelligenz

Für die Aufsicht soll ein neues „Department of Artificial Intelligence“ auf Kabinettsebene geschaffen werden. An seiner Spitze stünde ein vom Präsidenten ernannter und vom Senat bestätigter Secretary of Artificial Intelligence. Ein wissenschaftlich-technischer Beirat soll die Behörde beraten.

Das Ministerium soll KI-Systeme während verschiedener Phasen ihrer Entwicklung und nach der Bereitstellung überwachen. Vorgesehen sind unter anderem Meldungen über Entwicklungspläne, laufende Evaluierungen, Prüfungen der Sicherheitspraktiken von Unternehmen und eine verbindliche Freigabe, bevor ein fortgeschrittenes KI-System veröffentlicht oder übertragen werden darf.

Entwickler fortgeschrittener Modelle müssten außerdem eine behördliche Zulassung in Form einer „Charter“ erhalten. Als Bedingung dafür müssten sie der Behörde weitreichenden Zugang zu relevanten Systemen, Prozessen, Beschäftigten und physischer Infrastruktur gewähren, soweit dies zur Durchsetzung des Gesetzes erforderlich ist.

Gefährliche Systeme müssten isoliert oder abgeschaltet werden

Stellt die Behörde bei einem KI-System eines der definierten Vorläufermerkmale fest, soll das System sofort pausiert und vom Internet getrennt werden. Kann innerhalb von 30 Tagen nicht bestätigt werden, dass die problematische Fähigkeit entfernt wurde, müsste das System außer Betrieb gesetzt werden. Ein System, das als künstliche Superintelligenz eingestuft wird, soll unmittelbar funktionsunfähig gemacht werden.

Wer eine Superintelligenz oder ein System mit entsprechenden Vorläufermerkmalen entdeckt, müsste dies dem zuständigen Ministerium innerhalb von 24 Stunden melden.

Hohe Strafen und weitreichende Eingriffsmöglichkeiten

Der Entwurf sieht erhebliche Sanktionen vor. Personen in leitenden oder politischen Entscheidungsfunktionen eines zugelassenen Unternehmens sowie sogenannte „rogue actors“ könnten bei rücksichtslosen Verstößen gegen zentrale Vorschriften mit Geldstrafen und bis zu 20 Jahren Haft belegt werden. Andere Beschäftigte könnten bei entsprechenden Verstößen für zehn Jahre von einer Tätigkeit in der KI-Branche ausgeschlossen werden.

Bei Verstößen könnte die Behörde zudem Zulassungen entziehen. Wird eine solche Entscheidung gerichtlich bestätigt, könnten geistiges Eigentum und Vermögenswerte eingezogen werden, soweit dies der sicheren und vollständigen Vernichtung der betroffenen Systeme und Hardware dient. Die Pressemitteilung der Initiatoren bezeichnet diesen Mechanismus zugespitzt als „corporate death penalty“; im Gesetzestext selbst ist konkret von Entzug der Charter und möglicher Einziehung von Vermögenswerten die Rede.

Gleichzeitig enthält der Entwurf Schutzbestimmungen für Hinweisgeber. Beschäftigte, ehemalige Beschäftigte und Auftragnehmer sollen nicht benachteiligt werden dürfen, wenn sie mögliche Verstöße an Behörden, Strafverfolger oder den Kongress melden.

Auch internationale Vereinbarungen sind vorgesehen

Die Initiative beschränkt sich nicht auf die USA. Der neue KI-Minister soll gemeinsam mit dem Außenministerium internationale Abkommen und eine Koordination mit verbündeten Staaten anstreben, um die Entwicklung künstlicher Superintelligenz auch außerhalb der Vereinigten Staaten zu verhindern. Als mögliches Instrument nennt der Entwurf Exportkontrollen für KI-Recheninfrastruktur.

Die politische Stoßrichtung ist damit ungewöhnlich weitreichend: Statt lediglich Sicherheitsprüfungen oder Transparenzpflichten für besonders leistungsfähige Modelle vorzuschreiben, würde der Entwurf eine bestimmte Zielkategorie von KI grundsätzlich verbieten und die Entwicklung anderer leistungsfähiger Systeme zunächst stoppen. Wie groß der praktische Anwendungsbereich wäre, hinge dabei wesentlich davon ab, wie die Behörde die im Entwurf definierten Vorläufermerkmale bewertet.

Ob der Vorschlag im US-Kongress ausreichende Unterstützung erhält, geht aus den vorliegenden Dokumenten nicht hervor. Klar ist jedoch, dass Sanders und Casar damit eine der strengeren möglichen Regulierungspositionen in der aktuellen Debatte über fortgeschrittene KI formulieren: Sicherheitsregeln und staatliche Kontrolle sollen nach ihrem Konzept der weiteren Entwicklung besonders leistungsfähiger Systeme vorausgehen – und künstliche Superintelligenz soll gar nicht erst entwickelt werden.

Mit dem „Ban Artificial Superintelligence Act“ wollen Bernie Sanders und Greg Casar künstliche Superintelligenz in den USA verbieten. Zugleich soll die Entwicklung besonders leistungsfähiger KI pausieren, bis eine neue Bundesbehörde verbindliche Sicherheitsregeln, Prüfungen und Freigaben eingeführt hat.

Das Wichtigste in Kürze

US-Senator Bernie Sanders und der Abgeordnete Greg Casar haben mit dem „Ban Artificial Superintelligence Act of 2026“ einen weitreichenden Vorschlag zur Regulierung besonders leistungsfähiger KI vorgelegt. Der Entwurf ist noch kein geltendes Recht. Er sieht vor, künstliche Superintelligenz in den USA grundsätzlich zu verbieten und die Entwicklung fortgeschrittener KI vorübergehend zu pausieren.

Die wichtigsten Punkte im Überblick

  • Verbot: Künstliche Superintelligenz darf weder entwickelt noch eingesetzt, besessen, finanziert oder importiert werden
  • Pause: Fortgeschrittene KI ab 10^25 Rechenoperationen Trainingsaufwand muss vorerst stoppen
  • Neue Behörde: Ein „Department of Artificial Intelligence“ auf Kabinettsebene soll Modelle überwachen und freigeben
  • Sanktionen: bis zu 20 Jahre Haft für rücksichtslose Verstöße bestimmter Verantwortlicher

Als künstliche Superintelligenz definiert der Entwurf Systeme, die Menschen bei der kognitiven Leistungsfähigkeit in den meisten Bereichen übertreffen oder über Fähigkeiten verfügen, mit denen sie die Menschheit zerstören oder entmachten könnten. Verboten werden sollen auch Systeme mit bestimmten Vorläufermerkmalen, etwa selbstständiger Verbesserung, Umgehung menschlicher Aufsicht, unbefugtem Zugriff auf geschützte Infrastruktur oder Fähigkeiten, die die Entwicklung gefährlicher Waffen unterstützen.

Die neue Behörde soll leistungsfähige Modelle über ihren gesamten Lebenszyklus überwachen und vor einer Veröffentlichung freigeben. Entwickler müssten dafür eine behördliche Zulassung erhalten und der Aufsicht weitreichenden Zugang zu Systemen, Prozessen und Infrastruktur ermöglichen. Werden gefährliche Vorläufermerkmale festgestellt, soll ein System vom Internet getrennt und pausiert werden. Lassen sich die Merkmale nicht innerhalb von 30 Tagen beseitigen, müsste das System außer Betrieb gesetzt werden; eine als Superintelligenz eingestufte KI soll unmittelbar deaktiviert werden.

Für Verstöße sieht der Entwurf harte Sanktionen vor: Bestimmten verantwortlichen Personen und sogenannten „rogue actors“ drohen Geldstrafen und bis zu 20 Jahre Haft. Unternehmen könnten ihre Zulassung verlieren; nach gerichtlicher Bestätigung wären unter bestimmten Voraussetzungen auch Einziehungen von geistigem Eigentum und Vermögenswerten möglich. Zusätzlich soll die US-Regierung internationale Vereinbarungen anstreben, um die Entwicklung künstlicher Superintelligenz weltweit zu verhindern. Ob der Vorschlag im Kongress genügend Unterstützung findet, geht aus den vorliegenden Unterlagen nicht hervor.

Alle Hintergründe und Details in der Langfassung lesen →

Quellen

  1. Sanders, Casar Introduce Legislation to Create New Federal Agency to Ban Artificial Superintelligence, Pause Advanced AI Development – U.S. Senator Bernie Sanders
  2. Ban Artificial Superintelligence Act (Gesetzentwurf als PDF) – U.S. Senate

← Zurück zur Übersicht

Das könnte Sie auch interessieren