Ein Senatsentwurf würde Frontier-AI-Sicherheit zu einer gesetzlichen Pflicht machen – und Washington erlauben, eine Veröffentlichung zu blockieren

Am 11. September 2026 berichtete Reuters, dass Senatsunterhändler einen Gesetzentwurf ausarbeiteten, der den Entwicklern der leistungsfähigsten KI-Modelle eine gesetzliche Sorgfaltspflicht auferlegen, der Bundesregierung die Befugnis geben würde, die Veröffentlichung eines Modells zu blockieren, das sie für unsicher hält, und die Bundesstaaten daran hindern würde, ihre eigenen Gesetze zu denselben katastrophalen Risiken durchzusetzen. Der Bericht von Courtney Rozen stützte sich auf zwei Mitarbeiter des Senats, eine mit den Beratungen vertraute Person und einen Lobbyisten; syndizierte Kopien brachten ihn am 12. September, dem Datum, das das Archiv verwendet. Es war kein Gesetzestext veröffentlicht worden, niemand außerhalb der Gespräche hatte einen gesehen, es existierte keine Gesetzentwurfsnummer, und es war keine Abstimmung angesetzt. Kein Modell wurde zurückgezogen und kein Unternehmen wurde bestraft – was der Entwurf ändern würde, ist die Frage, wer entscheidet, ob ein Frontier-System auf den Markt kommt. Das Archiv bewertet diesen Datensatz mit B – dokumentiert, aber aus einer einzigen oder sekundären Quelle –, weil jede Darstellung des Vorschlags auf denselben Bestand an Berichten aus Mitarbeiterkreisen zurückgeht. Der vollständige Datensatz mit seinen Schweregrad- und Vertrauensbewertungen wird in dem Orca AI Incident Archive geführt, zusammen mit den benachbarten Einträgen zur US-Governance aus jenen Wochen.

Was der Entwurf nach Darstellung der Mitarbeiter bewirken würde

Vier Bestimmungen tauchen in der Berichterstattung immer wieder auf. Jede davon wurde Reuters von Gesprächsteilnehmern beschrieben, nicht aus einem Text zitiert.

• Eine Sorgfaltspflicht. Entwickler müssten ihre Produkte „mit dem Ziel der Verhinderung katastrophaler Risiken“ gestalten, wie Reuters es formulierte. Das Konzept ist dem Deliktsrecht entlehnt, wonach ein Akteur die Pflicht hat, angemessene Vorsichtsmaßnahmen gegen vorhersehbaren Schaden zu ergreifen. Tech Times beschrieb in seinem Artikel vom 12. September die praktische Folge als eine Verpflichtung, die bereits in die Designphase eingebettet sei, statt als eine, die nur durch Audits und Vorfallberichte durchgesetzt werde, sodass die Haftung an der Designentscheidung selbst anknüpfen könnte und nicht bloß an der unterlassenen Einreichung eines Berichts. Am Ende würden Gerichte – nicht nur Aufsichtsbehörden – darüber entscheiden, was als angemessen gilt.

• Eine Bundesbefugnis, eine Freigabe zu blockieren. Die Regierung könnte die Freigabe „bestimmter Modelle, die als unsicher eingestuft wurden“, blockieren, und ein Unternehmen könnte diese Entscheidung vor einem Bundesgericht anfechten. Wie viel Befugnis die Exekutive haben würde, war und bleibt Gegenstand der Diskussion.

• Unabhängige Tests. Der Vorschlag würde Regierungsexperten, einschließlich der nationalen Labore, einbeziehen, um zu bewerten, ob Frontier-Modelle hochentwickelte Cyberangriffe ermöglichen oder bei der Entwicklung biologischer oder nuklearer Waffen helfen könnten. Klobuchar sagte auf X, jede Vereinbarung müsse Entwickler dazu bringen, „mit Regierungsexperten zusammenzuarbeiten, um Modelle zu überprüfen und zu testen, um sicherzustellen, dass KI sicher ist.“

• Vorrang des Bundesrechts vor Landesrecht. Ein Teil des Gesetzesentwurfs würde die Bundesstaaten daran hindern, ihre eigenen Gesetze zu bestimmten Modellrisiken durchzusetzen. Ein Mitarbeiter des Senats nannte das Szenario, dass ein böswilliger Akteur ein KI-System einsetzt, um bei der Entwicklung von Atom- oder Biowaffen zu helfen.

Die drei in der Berichterstattung genannten Risikobereiche sind Unterstützung bei biologischen oder nuklearen Waffen, die Fähigkeit, ausgefeilte Cyberangriffe gegen kritische Infrastrukturen durchzuführen, und Missbrauch durch entschlossene böswillige Akteure. Der Gesetzentwurf würde nur für „Modelle mit den fortschrittlichsten Fähigkeiten“ gelten. Reuters nannte die Alphabet-Tochter Google, Anthropic und OpenAI unter den US-Unternehmen, die Modelle dieser Klasse besitzen. Das ist die Einschätzung der Nachrichtenagentur dazu, wer abgedeckt wäre, nicht eine in irgendeinem Text festgeschriebene Liste abgedeckter Entwickler – denn es gibt keinen öffentlichen Text.

Wer ist im Raum — und wer ist an der Tür?

Reuters nannte drei Unterhändler: Mehrheitsführer John Thune aus South Dakota, den Vorsitzenden des Handelsausschusses Ted Cruz aus Texas und Amy Klobuchar aus Minnesota, die ranghöchste beteiligte Demokratin. Ein Sprecher von Thune lehnte eine Stellungnahme ab. Cruz schrieb auf X, er arbeite mit Klobuchar und Thune zusammen, „um katastrophale Risiken im Zusammenhang mit biologischen oder nuklearen Bedrohungen anzugehen“. Klobuchar stellte die Bemühungen in den Kontext staatlicher Verifizierung und Tests.

Der vierte Name erfordert Sorgfalt. Der Archivdatensatz führt Maria Cantwell, die ranghöchste Demokratin im Handelsausschuss, unter der überparteilichen Gruppe auf, die den Gesetzentwurf ausarbeitet. Die Berichterstattung verortet sie anders: außerhalb des Verhandlungstrios und als das zentrale Hindernis innerhalb desselben. Die Lesart von The Next Web bezüglich der Berichte von Reuters und Nextgov ist, dass Cantwell „wegen des Testrahmens blockiert“, weil sie möchte, dass Modelle an Bundesbehörden und die nationalen Laboratorien übermittelt werden, statt von den Unternehmen getestet zu werden, die sie entwickelt haben. Ihr Büro unterbreitete Klobuchars Büro eine alternative Formulierung, wobei ein Mitarbeiter Letzteres als aufgeschlossen beschrieb; demnach ist Cruz’ Zustimmung der entscheidende Faktor. Reuters’ Nachbericht vom 14. September sagt nur, dass Cantwell „sich ebenfalls zur Gesetzgebung geäußert hat, wie Quellen sagen“. Ihre Beteiligung steht fest; ob sie den Gesetzentwurf mit ausarbeitet, nicht.

Derselbe Bericht nennt die externen Parteien. Eine zweite Quelle sagte gegenüber Nextgov, Cantwell, Anthropic und nicht namentlich genannte AI-Sicherheitsgruppen würden sich „weigern, mitzuspielen“. Anthropic beantwortete Nextgovs Anfrage nach einer Stellungnahme nicht.

Die Maschinerie: Wer die Tests tatsächlich ausführt

Hier gehen die Schlagzeile des Entwurfs und seine technische Ausgestaltung auseinander – und das ist der Teil, den die meisten Zusammenfassungen weglassen. Laut dem Reuters-Bericht, wie ihn The Next Web zusammengefasst hat, „würden die Unternehmen die Sicherheitstests selbst durchführen und die Ergebnisse dann dem Handelsminister zur Genehmigung des Einsatzes vorlegen“. Ein Mitarbeiter eines demokratischen Ausschusses bezeichnete die daraus resultierende Regelung als „in erster Linie eine Situation mit freiwilligem Standard“.

Zwei Tage nach dem Stichtag berichtete Reuters, dass die Unterhändler auch abwägten, ob der Handelsminister „Nachweise dafür verlangen könne, dass KI-Entwickler angemessene Schritte zur Verhinderung von Schäden unternehmen“, und ob der Minister „staatliche Prüfer einsetzen könne, um die Produkte der Unternehmen selbst zu testen“. Derselbe Bericht räumte ein, dass Reuters „nicht sofort feststellen konnte, was als ‚angemessen‘ gelten würde“. Diese Lücke ist das ganze Argument. Eine Sorgfaltspflicht ist nur so stark wie der Maßstab, den ein Gericht oder eine Regulierungsbehörde an sie anlegt, und der Maßstab wurde noch geschrieben.

Die Darstellungen des Gates selbst haben seitdem geschwankt. Eine Zusammenfassung vom 14. September auf eworld.live, die sich auf Reuters und Nextgov stützte, beschrieb die offene Frage als die, ob das Handelsministerium „einen echten Block vor dem Einsatz vs. eine weichere Bestätigung“ erhält, und bezeichnete diese als umstritten. Beide Beschreibungen können auf denselben Entwurf in unterschiedlichen Verhandlungsphasen zutreffen; keine von beiden lässt sich anhand eines Textes überprüfen, der nicht existiert.

Cantwells rote Linie und Cruz’ Antwort

Cantwells öffentliche Position, wie Reuters sie berichtete, ist, dass eine sinnvolle Gesetzgebung die leistungsfähigsten Modelle an Wissenschaftler in den nationalen Labors übergeben würde, die „bewerten würden, ob sie hochentwickelte Cyberangriffe ermöglichen oder die Entwicklung biologischer oder nuklearer Waffen unterstützen könnten.“ Ihrer Darstellung zufolge sind die Prüfer föderal, nicht unternehmenseigen — der Sinn der Übung bestehe darin, dass der eigene Sicherheitsnachweis eines Unternehmens kein Beweis sei.

Cruz’ Antwort kam fünf Tage nach dem Stichtag und schärft die Konfliktlinie. Der Houston Chronicle berichtete am 17. September in einem Artikel von James Osborne, dass Cruz daran arbeitete, einen demokratischen Vorschlag für verpflichtende bundesstaatliche Tests vor dem Einsatz zu blockieren, und warnte, dieser „würde US-Unternehmen schaden und chinesischen Konkurrenten einen Vorteil verschaffen“. Seine Alternative war eine Vorgabe, dass Unternehmen „Schritte unternehmen, um zu verhindern, dass ihre Modelle ‚fortgeschrittene Bedrohungsfähigkeiten‘ entwickeln“, und „der Bundesregierung alle aktiven oder unmittelbar bevorstehenden Sicherheitsverletzungen offenlegen“ müssten. Er argumentierte außerdem, dass die Haftung des Marktes bereits ihre Arbeit tue: „Wenn ein Unternehmen ein Produkt verkauft, das massiven Schaden verursacht, wird es in Grund und Boden geklagt.“

Diese Berichterstattung ist später als der Aktenstand und wird hier als das dargestellt, was sie ist – eine spätere Entwicklung, die den Septemberentwurf einordnet, statt ihn zu überarbeiten. Der am 11. September gemeldete Vorschlag gab der Regierung eine Blockademacht und sprach von Tests durch Regierungsexperten. Der Vorsitzende des Ausschusses, der ihn hätte überarbeiten müssen, argumentierte innerhalb einer Woche gegen verbindliche Bundesprüfungen vor dem Einsatz.

Vorrang, und die Unmöglichkeit, die Gesetze zu benennen

Die Vorrangklausel ruft den klarsten Widerstand hervor und bietet die geringste Klarheit. Reuters berichtete, dass ein Teil des Gesetzesentwurfs Bundesstaaten daran hindern würde, ihre eigenen Gesetze zu bestimmten Modellrisiken durchzusetzen. Welche Gesetze das sind, ist der Punkt, an dem die Berichterstattung auseinandergeht: The Next Web nennt Kaliforniens SB 53 und New Yorks RAISE Act, während Tech Times berichtet, dass Kalifornien am 9. September 2026 SB 813 und AB 1405 unterzeichnet habe, und Kaliforniens Gesetz zur verpflichtenden Prüfung so beschreibt, dass es KI erfasse, die bei Einstellungen, Versicherungen und anderen folgenreichen Entscheidungen eingesetzt wird. Dieser Artikel hat die als Kapitel gefassten Gesetzestexte beider Bundesstaaten nicht geprüft; welche Gesetze die Klausel verdrängen würde, bleibt daher in den Quellen ungeklärt und wird von ihnen nicht abschließend beantwortet.

Klar ist die Geschichte hinter dem Streit. Tech Times datiert ein früheres umfassendes Moratorium für die KI-Regulierung auf Ebene der Bundesstaaten auf 2025 und hält fest, dass es im Senat mit 99 zu 1 Stimmen scheiterte, nachdem Cruz sich dafür eingesetzt hatte; AIBARS beschreibt eine ähnliche Initiative, die 2026 durch eine überwältigende Abstimmung gestrichen wurde. Die beiden Darstellungen stimmen beim Jahr nicht überein, und für diesen Artikel wurde kein namentliches Abstimmungsprotokoll eingesehen. Tech Times ergänzt, die offene Frage sei, ob eine engere Vorrangregelung, die auf Pflichten bei katastrophalen Risiken beschränkt ist, Einwände von Gesetzgebern beider Parteien überstehen kann, die einzelstaatliche Vorschriften als Auffangnetz für den Verbraucherschutz betrachten. AIBARS wiederum berichtet, dass republikanische Gouverneure in mehreren Bundesstaaten eine umfassende Vorrangregelung abgelehnt haben und dass Bürgerrechts- und Verbrauchergruppen warnen, ein bundesweiter Standard könne zu einer Obergrenze statt zu einer Untergrenze werden.

Gesichert, zugeschrieben und nicht gesichert

• Von unabhängigen Medien bestätigt. Dass Senatoren über einen Gesetzentwurf zur Sorgfaltspflicht mit einer bundesstaatlichen Sperrbefugnis und einer Vorrangklausel verhandeln, berichten Reuters am 11. und 14. September, Nextgov über den Streit um die Tests und Semafor; die Houston Chronicle berichtet eher über die Cruz-Seite des Streits als über den Inhalt des Gesetzentwurfs. Kein Medium hat den Text veröffentlicht, da kein Text öffentlich ist.

• Festgestellt: Die Spaltung innerhalb der Verhandlung ist real und wurde zweimal aus unterschiedlichen Richtungen gemeldet. Nextgov berichtete über Cantwells alternative Formulierung und ihre Präferenz für Tests auf Bundesebene; die Houston Chronicle berichtete, dass Cruz gegen verpflichtende Tests auf Bundesebene vor dem Einsatz arbeitet. Das sind zwei benannte Büros, zwei Reporter und dieselbe Bruchlinie.

• Nur zugeschrieben.Jedes operative Detail – der Auslöser dafür, wann die Regelung greift, was ein Modell „unsicher“ macht, ob das Handelsministerium eine Veröffentlichung blockieren oder nur eine Bescheinigung verlangen kann, welche Entwickler in den Geltungsbereich fallen – stammt von anonymen Senatsmitarbeitern, einer mit den Gesprächen vertrauten Person und einem Lobbyisten. Thunes Büro lehnte eine Stellungnahme ab. Cruz und Klobuchar äußerten sich zu dem Vorhaben auf X nur in allgemeinen Worten. Tech Times zitiert außerdem einen Mitarbeiter eines demokratischen Ausschusses, der den Entwurf als „in erster Linie eine Art freiwilliger Standard“ bezeichnet, was neben der Formulierung einer „verbindlichen Sorgfaltspflicht“ unpassend wirkt und weniger ein Widerspruch als eine Beschreibung desselben Dokuments aus einer anderen Warte ist.

• Nicht gesichert: dass der Gesetzentwurf überhaupt eingebracht wird. Keine Gesetzesnummer, keine Ausschussdrucksache, keine angesetzte Ausschussberatung und keine Abstimmung zum Zeitpunkt der geprüften Berichterstattung. Reuters’ eigene Einschätzung war, dass die Maßnahme „geringe Aussichten hat, Gesetz zu werden“.

• Nicht geklärt: ob Cantwell eine Verfasserin ist. Der Archivdatensatz führt sie in der Gruppe auf; die Berichterstattung verortet sie außerhalb der drei Kernmitglieder und im Konflikt mit ihnen wegen der Tests. Die Diskrepanz ist klein und es lohnt sich, sie zu vermerken, denn ihr Name verändert, wie die Koalition des Gesetzentwurfs aussieht.

Der Kalender, der Gerichtssaal und was als Nächstes passieren würde

Der Zeitplan ist der zuverlässigste Gegner des Gesetzentwurfs. Reuters berichtete, dass das Repräsentantenhaus vor den Zwischenwahlen am 3. November eine Woche und der Senat etwa drei Wochen tagen sollte; danach tritt im Januar 2027 ein neuer Kongress zusammen. Cruz hatte gesagt, der Ausschuss könne eine Markup-Sitzung abhalten; ein früherer Markup verzögerte sich vor der August-Pause, als er der Gesetzgebung zur Kindersicherheit Vorrang einräumte, so Nextgov. Tech Times zitierte Quellen von Semafor, die die Maßnahme als „die einzige realistische Option, um vor 2027 eine Chance zu haben“ bezeichneten – eine Formulierung, die ebenso sehr nach einer Warnung vor der Frist wie nach einer Befürwortung klingt.

Das Weiße Haus ist ebenfalls kein verlässlicher Verbündeter. Am 14. September berichtete Reuters, Präsident Donald Trump habe argumentiert, bestehende Befugnisse böten bereits ausreichende Instrumente, um Technologieunternehmen zu regulieren und strafrechtlich zu verfolgen – eine Haltung, die Zurückhaltung signalisiert, ein Gesetz zur Schaffung neuer KI-Regeln zu unterzeichnen. Thune seinerseits rahmte die Angelegenheit wettbewerblich ein und sagte, es gebe „eine Möglichkeit, wie der Kongress Leitplanken um diese Art folgenschwererer Bedrohungen errichten kann“, während er betonte, dass dies die Position der USA im KI-Wettlauf nicht beschädigen würde.

Das rechtliche Risiko ist die andere Einschränkung, und es ist struktureller而非 politischer Natur. Tech Times merkt an, dass eine staatliche Sperre vor der Veröffentlichung eine Form der Vorabzensur (prior restraint) ist, eine Kategorie, die Gerichte besonders genau prüfen, und dass ungeklärt ist, ob die Veröffentlichung eines KI-Modells als geschützte Meinungsäußerung gilt; Rechtswissenschaftler sagten gegenüber dem Medium, eine Anfechtung nach dem First Amendment wäre die primäre Anfechtung jedes derartigen Gesetzes. Derselbe Artikel bezeichnet den Gesetzentwurf als das erste eigens geschaffene KI-Blockierungsgesetz mit einem Rechtsmittelweg zu Gerichten und stellt ihn früheren Nutzungen bestehender Befugnisse gegenüber — dem Export Control Reform Act, der im Juni 2026 angerufen wurde, um den weltweiten Zugang zu Anthropics Mythos 5 und Fable 5 für etwa drei Wochen auszusetzen, und einer Executive Order vom 2. Juni 2026, die einen freiwilligen staatlichen Zugriff vor der Veröffentlichung ohne jegliches Vorabgenehmigungserfordernis schuf. Diese Charakterisierungen stammen von Tech Times, und die zugrunde liegenden nationalen Sicherheitsmaßnahmen wurden hier nicht unabhängig geprüft.

Was die Schallplatte wert ist

Der Wert dieses Eintrags liegt nicht darin, dass ein Gesetzentwurf existiert. Er liegt in der Distanz zwischen dem Satz, den alle wiederholten – einer verbindlichen Sorgfaltspflicht, einer Regierung, die eine Freigabe blockieren kann – und der Maschinerie darunter, bei der die Unternehmen ihre eigenen Sicherheitstests durchführen, die Ergebnisse an einen Kabinettsminister gehen und der dem Entwurf am nächsten stehende Mitarbeiter das Ergebnis „in erster Linie eine Situation wie bei einem freiwilligen Standard“ nennt. Beide Beschreibungen beziehen sich auf dasselbe Dokument. Die eine ist die Version, die eine Schlagzeile übersteht; die andere ist die Version, die ein Markup überstehen würde.

Drei Dinge würden die Sache klären, und keines davon war in der für diesen Eintrag geprüften Berichterstattung eingetreten: eine Nummer des Gesetzentwurfs und ein veröffentlichter Text, ein Markup im Handelsausschuss und eine Entscheidung darüber, ob die Rolle des Bundes ein Vetorecht oder eine Bescheinigung ist. Bis dahin sollten die vier Bestimmungen als Verhandlungsposition gelesen werden, wie sie von Personen im Raum beschrieben wird, nicht als kommendes Gesetz – und die Note B des Archivs ist die richtige Einstufung dafür, weil die einzigen Zeugen anonym sind und das Dokument selbst nicht gesehen wurde.