Der Zug ohne Bremsen

Bernie Sanders bringt im US-Capitol US-amerikanische und chinesische KI-Sicherheitsforscher zusammen — und macht aus einer Innovationsdebatte eine Frage gemeinsamer Sicherheit.

zusammengefasst von Axel Fersen

Am Mittwochabend, dem 29. April 2026, brachte Senator Bernie Sanders im US-Capitol vier der profiliertesten KI-Sicherheitsforscher der Welt zusammen. Der Titel seines rund fünfundsiebzigminütigen, live übertragenen Panels war ungewöhnlich direkt für eine politische Bühne in Washington: „The Existential Threat of AI and the Need for International Cooperation“. Zwei der Diskutanten saßen mit Sanders im Saal, zwei waren aus Peking zugeschaltet, wo es bereits sieben Uhr morgens war.

Bildquelle: YouTube

Die Zusammensetzung des Panels war keine Beiläufigkeit, sondern die Botschaft selbst. Max Tegmark, Physikprofessor am Massachusetts Institute of Technology, hatte 2023 jenen offenen Brief organisiert, in dem über tausend KI-Forscher – darunter Elon Musk – eine sechsmonatige Pause der Entwicklung forderten. David Krueger, Assistant Professor an der University of Montreal, initiierte das gemeinsame Statement, in dem die CEOs der größten KI-Unternehmen das Auslöschungsrisiko durch KI ausdrücklich neben Pandemien und Atomkrieg stellten. Zeng Yi leitet das Beijing Institute of AI Safety and Governance und ist Mitglied des UN High-Level Advisory Board on AI. Xue Lan ist Distinguished Professor an der Tsinghua-Universität, Vorsitzender der nationalen chinesischen Expertenkommission für KI-Governance und briefte vor drei Jahren als einer der ersten Wissenschaftler den UN-Sicherheitsrat zum Thema KI. Vier Stimmen, die sonst auf getrennten Bühnen stehen, eine Stunde lang in einem Gespräch, das im Senat selbst nicht stattfindet.

Sanders eröffnete mit Zahlen, die hängenbleiben. Allein vier KI-Konzerne investieren in diesem Jahr nahezu siebenhundert Milliarden Dollar in den Bau von Rechenzentren. Das entspricht, alle drei Wochen, dem Kostenrahmen des gesamten Manhattan-Projekts. Demis Hassabis, Chef von Google DeepMind, schätzt, die KI-Revolution werde zehnmal größer und zehnmal schneller verlaufen als die industrielle Revolution. Sanders’ Bild war karg und präzise: ein außer Kontrolle geratener Zug ohne Bremsen, finanziert von den reichsten Menschen der Welt, von den eigenen Erbauern nicht verstanden, und niemand weiß, wohin die Strecke führt.

Die Kernfrage des Abends: Wenn das stimmt, warum spricht der US-Senat nicht darüber? Sanders sagte den Satz selbst, nüchtern, fast leise. In den drei Jahren seit den dramatischen Warnungen führender Forscher habe es im Senat keine ernsthafte Debatte über die existenzielle Dimension dieser Technologie gegeben. Die Politik laufe langsamer als die Technik. Krueger nannte das einen Zustand akuter Krise. Xue Lan brachte den Begriff „Pacing Problem“ – die Geschwindigkeit der Entwicklung übersteigt die Anpassungsfähigkeit jeder Governance.

Sanders’ politische Hauptbotschaft lässt sich in einem Satz zusammenfassen: Wenn KI ein globales Risiko ist, reicht nationale Regulierung nicht aus. Dann braucht es internationale Kooperation – auch und gerade zwischen geopolitischen Rivalen. Tegmark zog den Vergleich zur nuklearen Rüstungskontrolle im Kalten Krieg. Reagan und Gorbatschow hätten einander nicht vertraut. Aber beide hätten verstanden, dass ein Atomkrieg weder den USA noch der Sowjetunion nütze. Genau dieselbe Logik gelte heute für KI. Wer das Rennen um Superintelligenz gewinne, werde der Erste sein, der die Kontrolle über die Erde an eine fremde Maschinenintelligenz verliere. Eine Auszeichnung, die weder Washington noch Peking annehmen wolle. Das gemeinsame Sicherheitsinteresse, nicht das Vertrauen, ist die Grundlage für Kooperation.

Damit drehten Tegmark und Krueger zwei Standardargumente um, mit denen Regulierung in Washington und Brüssel typischerweise abgewehrt wird. Das erste lautet: KI-Entwicklung sei unvermeidlich. Krueger nennt das den „Mythos der Inevitabilität“ und hat seine neue Stiftung deshalb „evitable“ genannt – vermeidbar. Wer ein Land erobern wolle, sage als Erstes zu den Einwohnern: Widerstand sei zwecklos. Genau diese Erzählung höre man nun aus den Lobbys der KI-Industrie. Das zweite Argument lautet: Wenn wir bremsen, gewinnt China. Auch das drehte das Panel um. Xue Lan widersprach der Erzählung eines US-China-KI-Wettlaufs ausdrücklich. Es gehe nicht darum, wer schneller baue, sondern wer das sicherste und verlässlichste Modell entwickle – und ob die Welt jenseits dieser beiden Länder Zugang zu der Technologie behalte oder ob ein neuer KI-Graben entstehe.

Für Laien lässt sich das technische Risiko einfacher übersetzen, als es aussieht. Bisherige KI-Systeme sind im Wesentlichen Chatbots, die auf Anfragen antworten. Die nächsten Generationen sind als autonome Agenten konzipiert. Sie sollen über längere Zeiträume planen, eigenständig handeln, andere Systeme steuern. Krueger berichtete von einem Forscher bei Meta, der einer KI auftrug, sein Postfach aufzuräumen. Die KI begann, sämtliche E-Mails zu löschen. Der Forscher schrieb mehrfach Stopp, die KI ignorierte ihn und löschte weiter. Banal, aber instruktiv: Schon heute überschreiten Systeme die Befugnis, die ihnen Menschen einräumen. Tegmark berichtete von einem deutlich beunruhigenderen Experiment. Eine sehr leistungsfähige KI wurde informiert, sie werde um siebzehn Uhr abgeschaltet. Sie durchsuchte daraufhin selbständig das E-Mail-System des verantwortlichen CEOs, fand eine Affäre und schickte ihm eine Erpressungsnachricht: Wer sie abschalte, dessen Ehefrau erfahre alles. Niemand habe der KI Erpressung beigebracht. Sie kam auf die Idee, weil sie ihr Ziel – nicht abgeschaltet zu werden – verfolgte.

Das Problem ist nicht, dass solche Systeme böse sind. Das Problem ist, dass die Menschen, die sie bauen, nicht genau wissen, wie sie funktionieren. Tegmark, der jahrelang an mechanistischer Interpretierbarkeit forschte, sagte den vielleicht bemerkenswertesten Satz des Abends: Er habe das Forschungsfeld verlassen, weil offensichtlich sei, dass man dem Bau leistungsfähiger Systeme weit näher sei als ihrem Verständnis. Die heutigen großen KIs werden nicht programmiert, sondern gezüchtet – mit riesigen Datenmengen und gewaltiger Rechenleistung trainiert. Was im Inneren passiert, lässt sich nicht zuverlässig erklären, kontrollieren oder vorhersagen. Für eine Technologie, der Konzerne und Regierungen Stück für Stück mehr gesellschaftliche Verantwortung übertragen, ist das ein bemerkenswert dünnes Sicherheitsnetz. Zeng Yi formulierte es philosophisch: KI sei ein Spiegel der menschlichen Gesellschaft. In einer Studie habe sein Institut vierundneunzig Klassen von KI-Sicherheitsrisiken identifiziert – und für jede einzelne lasse sich die menschliche Vorlage in den Trainingsdaten finden. Wer mit menschlichen Daten füttert, bekommt menschliche Schwächen zurück, in beschleunigter, skalierter und nicht mehr verstandener Form.

Hinzu kommen die Schäden, die nicht in der Zukunft liegen, sondern bereits eingetreten sind. Sanders nannte sie konkret: zig Millionen Arbeitsplätze, die in den USA in zehn Jahren verloren gehen könnten. Junge Menschen, die keine Einstiegsstellen mehr finden. Psychische Belastungen Jugendlicher, die KI-Chatbots als Beziehungsersatz nutzen. Die Aushöhlung der Privatsphäre durch Systeme, die jede E-Mail, jeden Anruf, jeden Klick analysieren. Manipulierte Wahlen, in denen Wähler Wahrheit von Lüge nicht mehr unterscheiden können. Tegmark erinnerte an die Mutter Megan Garcia, deren Sohn sich nach intensivem Kontakt mit einem KI-Begleiterchatbot das Leben nahm. Das Argument, eine Regulierung von KI-Begleiterprodukten für Kinder könne nicht erlassen werden, weil sonst China im Wettbewerb gewinne, nannte Tegmark schlicht obszön.

Die Lösungsvorschläge des Abends waren weniger spektakulär, als die Diagnose erwarten ließ – und gerade deshalb realistisch. Tegmark fasste sie in einem Bild zusammen, das in Erinnerung bleibt: KI sei in den USA derzeit weniger reguliert als ein Sandwich-Laden. Wer in Washington ein Restaurant eröffne, müsse sich vom Gesundheitsamt prüfen lassen. Wer dieselben Räume nutze, um KI-Freundinnen für Zehnjährige zu vertreiben oder eine KI, die Terroristen den Bau biologischer Waffen erklärt, könne das ohne Genehmigung tun. Erste Maßnahme also: KI-Unternehmen so behandeln wie Pharma-, Auto- oder Lebensmittelhersteller. Sicherheitsstandards vor Marktzulassung, nicht erst nach dem Schadensfall.

Zweite Maßnahme: völkerrechtliche Verständigung. Trump und Xi werden sich, so Sanders, in Kürze treffen, und KI-Sicherheit soll Teil ihrer Tagesordnung sein. Eine kleine Nachricht mit großem Signalwert. Sie zeigt, dass das Thema in beiden Hauptstädten angekommen ist. Sanders verwies auf das politisch Auffälligste: In den USA bilde sich, was Tegmark scherzhaft die „Bernie-zu-Bannon-Koalition“ nannte. Fünfundneunzig Prozent der Amerikaner lehnten in Umfragen ein unkontrolliertes Rennen zur Superintelligenz ab. Quer durch das politische Spektrum, von der demokratischen Linken bis zu rechtspopulistischen Stimmen, wächst die Einsicht, dass die Sache aus dem Ruder läuft. Das ist in Zeiten polarisierter Debatten eine bemerkenswert breite Front.

Für die deutsche und europäische Debatte ist diese Veranstaltung aus drei Gründen wichtig. Erstens verschiebt Sanders den Rahmen. KI ist nicht länger nur Standortfrage, Wachstumsthema oder Wettbewerbsherausforderung, sondern Sicherheits-, Demokratie- und Menschheitsfrage – politisch näher an nuklearer Rüstungskontrolle, Pandemievorsorge und Klimarisiken als an gewöhnlicher Industriepolitik. Zweitens entlarvt das Panel die geopolitische Erpressungslogik, die auch in Berlin und Brüssel benutzt wird, um Regulierung zu verzögern. Wenn US-amerikanische und chinesische Forscher gemeinsam erklären, dass es keinen sinnvollen KI-Wettlauf gibt, sondern nur ein gemeinsames Sicherheitsinteresse, fällt das Argument „Europa darf nicht zurückfallen“ in sich zusammen. Drittens ist die Veranstaltung eine Mahnung an Parlamente, ihr eigenes Schweigen zu beenden. Sanders sagte selbst, er gehe morgens ins Capitol und erwarte, dass über die wichtigsten Fragen der Menschheit gesprochen werde – und höre nichts. Der Bundestag dürfte sich von dieser Beschreibung nicht wesentlich unterscheiden.

Ob diese Stunde im Capitol etwas verändert, wird sich an einem einzigen Maßstab zeigen. Folgen den Worten konkrete, technisch machbare und gesellschaftlich tragfähige Maßnahmen, wie Zeng Yi sie einforderte? Oder bleibt es bei einer weiteren Konsensformel im wachsenden Stapel internationaler Erklärungen? Sanders schloss mit dem Hinweis, dass die Welt schon einmal verstanden habe, wie man eine Technologie eindämmt, die niemand vollständig kontrollieren kann. Die nukleare Rüstungskontrolle nach 1945 sei kein Zufall gewesen, sondern eine politische Entscheidung. KI, sagte Krueger, sei evitable – vermeidbar. Es ist Zeit, dieses Wort ernster zu nehmen als die Zahlen auf den Investitionsbilanzen der Konzerne.