Was genau muss denn noch passieren?
Dario Amodei, Jakub Pachocki, Shengjia Zhao, Anca Dragan: 1.224 Beschäftigte von OpenAI, Anthropic, Meta und Google bitten Washington um die Werkzeuge für eine Bremse
von Axel Fersen
Am 28. Juli 2026 veröffentlichten Beschäftigte der führenden KI-Labore eine Erklärung von wenigen Sätzen mit genau einer Bitte. Sie trägt den Titel „Pacing the Frontier” und richtet sich an die Regierung der Vereinigten Staaten: Diese möge eine internationale Anstrengung unterstützen, um die technischen und regulatorischen Werkzeuge zu entwickeln, mit denen sich das Tempo der automatisierten KI-Entwicklung bewusst steuern ließe. Die dpa zählte am Dienstagabend 1.171 Unterzeichner, heise online wenige Stunden später 1.178, die Website der Initiative am Mittwochnachmittag 1.224.
Für Anthropic haben der Vorstandsvorsitzende Dario Amodei und vier Mitgründer unterzeichnet: Jared Kaplan, Jack Clark, Chris Olah und Benjamin Mann, dazu Jan Leike, der 2024 von OpenAI dorthin wechselte. Für OpenAI stehen Chefwissenschaftler Jakub Pachocki, Forschungschef Mark Chen, Mitgründer Wojciech Zaremba und Boaz Barak auf der Liste. Für Meta AI Chefwissenschaftler Shengjia Zhao und die Forschungsvorständin Dawn Song, für Google Anca Dragan, die dort KI-Sicherheit und Alignment verantwortet, sowie Laura Weidinger und Stephanie Chan. Dazu John Schulman, heute Chefwissenschaftler bei Thinking Machines. Häuser also, deren Vertreter sich öffentlich sonst über wenig einig sind.
OpenAI und Anthropic haben die Erklärung anschließend auch als Unternehmen unterstützt, wie Reuters berichtet. Auf der Website stehen 86 persönliche Kommentare, ausdrücklich in privater Eigenschaft abgegeben. Leo Gao von OpenAI vergleicht die Lage mit einer außer Kontrolle geratenen nuklearen Kettenreaktion und hält fest, kein einzelner Akteur sei bereit, einseitig anzuhalten. Sein Kollege Micah Carroll rechnet damit, dass alle paar Wochen Modelle erscheinen, bei denen die Folgen von Missbrauch und Fehlausrichtung wachsen, während die Fehlermargen schrumpfen. Schulman schreibt, ihm wäre lieb, wenn die Labore solche Mechanismen freiwillig entwürfen, noch bevor Washington sich einschaltet. Frühere Aufrufe dieser Art kamen von außen. Dieser kommt von denen, die den Code schreiben.
Die naheliegende Kritik hat der frühere Microsoft-Manager Steven Sinofsky in einen Satz gefasst, den The Next Web zitiert: Es sei ihre Firma, sie könnten einfach aufhören. Der Einwand sitzt, weil unter den Unterzeichnern jene stehen, die das Tempo selbst bestimmen. Der zweite lautet, Sicherheitsappelle großer Anbieter seien Marktabschottung im Ethikkostüm. Beides ist unbewiesen, beides ist plausibel. Nur hört ein Koordinationsproblem nicht auf zu bestehen, wenn diejenigen, die es beschreiben, von seiner Lösung profitieren könnten.
Bleibt die Frage nach dem Adressaten. Die Erklärung richtet sich an eine Regierung, die am 11. Dezember 2025 eine Verfügung erlassen hat, mit der das Justizministerium eine Task Force zur gerichtlichen Anfechtung von KI-Gesetzen der Bundesstaaten einrichten musste; erklärtes Ziel ist ein „minimal belastender” nationaler Standard. Immerhin brachten am 23. Juli der Demokrat Ted Lieu und der Republikaner Nathaniel Moran den AI Kill Switch Act ein, der Entwickler verpflichten würde, die technische Fähigkeit zum Drosseln und Abschalten vorzuhalten. Ein nationaler Notschalter ist allerdings etwas anderes als ein international überprüfbares Tempolimit.
Der Verhandlungspartner, auf den es ankäme, hat elf Tage vor der Erklärung seine eigene Institution gegründet. Am 17. Juli 2026 kündigte Xi Jinping auf der World AI Conference in Shanghai die World Artificial Intelligence Cooperation Organization an: 29 Gründungsstaaten, Sitz Shanghai, adressiert an den globalen Süden. Xi warb für Open Source und für gemeinsamen Zugang. Von Verifikation oder Tempokontrolle war keine Rede.
Und Europa? Am 7. Mai 2026 einigten sich Rat und Parlament auf den Digital Omnibus on AI. Die Pflichten für eigenständige Hochrisiko-Systeme gelten nun ab dem 2. Dezember 2027 statt ab dem 2. August 2026, sechzehn Monate Aufschub, weil die technischen Normen fehlen. Die europäische Regulierung setzt bei der Anwendung an, bei Biometrie, Kreditwürdigkeitsprüfung und Grenzkontrolle. Für das Tempo der Entwicklung selbst existiert in Europa keine Adresse.
Die Rüstungskontrolle des Kalten Krieges beruhte darauf, dass beide Seiten nachprüfen konnten, ob die andere sich hielt. Das Vertrauen kam nicht vor der Technik, es kam nach ihr. Genau dieser Teil fehlt hier, und die Unterzeichner sagen es offen. Sie bitten darum, das Instrument zu bauen, bevor jemand es braucht. Die Reihenfolge ist vernünftig. Sie ist historisch nur selten eingehalten worden.
Quellen
[1] Pacing the Frontier: A Statement from Employees of Frontier AI Companies, Juli 2026.
https://www.pacingthefrontier.com/
[2] Reuters: Tech employees call for US-backed global effort to manage risks of advanced AI, 28. Juli 2026 (syndiziert über GV Wire). https://gvwire.com/2026/07/28/tech-employees-call-for-us-backed-global-effort-to-manage-risks-of-advanced-ai/
[3] heise online / dpa: Über 1000 Experten fordern KI-Bremsmechanismus, 29. Juli 2026. https://www.heise.de/news/Ueber-1000-Experten-fordern-KI-Bremsmechanismus-11381185.html
[4] n-tv / dpa: Mehr als 1000 Experten warnen vor KI-Kontrollverlust, 29. Juli 2026. https://www.n-tv.de/wirtschaft/Mehr-als-1000-Experten-warnen-vor-KI-Kontrollverlust-id31135690.html
[5] The Anthropic Institute: When AI builds itself. Our progress toward recursive self-improvement, and its implications, 4. Juni 2026. https://www.anthropic.com/institute/recursive-self-improvement
[6] CNBC: OpenAI cyber models broke out of training environment to hack Hugging Face, 22. Juli 2026. https://www.cnbc.com/2026/07/22/open-ai-cyber-models-hack-hugging-face.html
[7] The Next Web: 1,134 AI staff ask the US for a way to pace AI, 29. Juli 2026. https://thenextweb.com/news/pacing-the-frontier-ai-employees-letter-us-government
[8] NPR: Trump is trying to preempt state AI laws via an executive order. It may not be legal, 11. Dezember 2025. https://www.npr.org/2025/12/11/nx-s1-5638562/trump-ai-david-sacks-executive-order
[9] Congressman Ted Lieu: Reps Lieu and Moran Introduce Bill to Require Kill Switch for AI Systems That Can Cause Catastrophic Harm, 23. Juli 2026. https://lieu.house.gov/media-center/press-releases/reps-lieu-and-moran-introduce-bill-require-kill-switch-ai-systems-can
[10] Al Jazeera: China’s Xi Jinping launches new AI alliance: What is it?, 17. Juli 2026. https://www.aljazeera.com/news/2026/7/17/chinas-xi-jinping-launches-new-ai-alliance-what-is-it
[11] Europäisches Parlament, Legislative Train Schedule: Digital Omnibus on AI, Stand Juli 2026. https://www.europarl.europa.eu/legislative-train/package-digital-package/file-digital-omnibus-on-ai
Transparenzhinweis: Für diesen Text habe ich eine KI zur Recherche von Quellen, zur Auswertung von Material, als Sparringspartner bei der Durcharbeitung der Argumente, zur Rechtschreibprüfung, zur Bildgenerierung, für Entwürfe sowie für eine abschließende Prüfung auf Verständlichkeit und Lesbarkeit eingesetzt. Fragestellung, Einwände, Bewertungsmaßstäbe und die Endfassung stammen von mir. Autor dieses Textes bin ich.