von Axel Fersen
Am Samstag stand ein Text. Nach einer durchverhandelten Nacht im Genfer Palais des Nations einigten sich die 128 Vertragsstaaten des VN-Waffenübereinkommens (Convention on Certain Conventional Weapons, CCW) im Konsens auf ein Dokument zu letalen autonomen Waffensystemen (Lethal Autonomous Weapons Systems, LAWS). Rechtlich bindet es niemanden. Es könnte Vertragsverhandlungen eröffnen, frühestens auf der Überprüfungskonferenz im November. Nicole van Rooijen, Geschäftsführerin der internationalen Kampagne Stop Killer Robots, sagte Reuters, die Arbeit von drei Jahren sei in den letzten Stunden erheblich verdünnt worden; abgeschwächt worden seien die Definition eines autonomen Waffensystems und die Vorkehrungen zum Schutz von Zivilpersonen. Bis in die Nacht drangen die Vereinigten Staaten und Russland auf weichere Formulierungen. Washington wollte Spielraum vor allem dort, wo es um die Ausübung menschlichen Urteilsvermögens geht.
Die Sitzung war die letzte des laufenden Mandats. Die Regierungsexpertengruppe tagte vom 31. August bis zum 4. September, der Konsens kam in den frühen Morgenstunden danach zustande.
Deutschland hat diesen Konsens mitgetragen. Wer im Konsensverfahren ein Ergebnis verhindern will, muss widersprechen; Deutschland widersprach nicht. Das lässt sich als Bekenntnis zur internationalen Regelsetzung lesen. Daneben liegt allerdings, was die Bundesrepublik seit dem 9. April 2026 für sich selbst geregelt hat.
An diesem Tag trat im Geschäftsbereich des Verteidigungsministeriums die Konzeption K-9000/102 mit dem Titel „Künstliche Intelligenz“ in Kraft. Vier Monate lang war sie als Verschlusssache eingestuft. Am 12. August meldete das Ministerium ihren Erlass, einen Tag später erschien eine öffentliche Fassung, auf deren Deckblatt steht, sie basiere „weitgehend“ auf der eingestuften.
Auf Seite 13 stehen zwei Sätze, die den Rest tragen. „Menschliche Kontrolle ist dabei nicht gleichzusetzen mit menschlicher Interaktion.“ Und weiter: „nicht jeder Wirkmitteleinsatz“ erfordere „zwingend eine menschliche Interaktion“. Der Grad der Beteiligung hänge vom Operationskontext ab; in Luftkampfsituationen oder auf See könne er niedriger ausfallen als beim Einsatz in urbanen Gebieten. „Wirkmittel“ ist das Behördenwort für Waffe.
Wie die Kontrolle stattdessen aussehen soll, steht wenige Seiten weiter. Deutschland und Frankreich halten kontextangemessenes menschliches Ermessen für gewährleistet, wenn Menschen die Funktionsweise der Systeme verstehen, deren Einsatzregeln validieren, die Waffenprüfung nach Artikel 36 des I. Zusatzprotokolls durchführen und „einen präzisen Rahmen für deren Missionen festlegen, inklusive Missionsziel, Zieltypen, Missionsdauer und Einsatzgebiet“. Wer einen Rahmen festlegt, entscheidet über Kategorien. Über den einzelnen Menschen, den das System innerhalb dieses Rahmens findet und bekämpft, entscheidet er nicht mehr. Wäre das die Kontrolle, die gemeint war, als die Bundesregierung erklärte, der Mensch behalte die Verantwortung?
Was Deutschland international geächtet sehen möchte, steht in einer Fußnote derselben Vorschrift. Das Ministerium definiert dort in Abstimmung mit dem Auswärtigen Amt ein letales autonomes Waffensystem als eines, das „in erster Linie dazu bestimmt ist, tödliche Gewalt allein gegen Personen zur Wirkung zu bringen“, und das „ohne jegliche menschliche Einflussnahme und Kontrolle“ sein Umfeld und seinen internen Zustand wahrnimmt, die Lage beurteilt, entscheidet, rational handelt, evaluiert und daraus lernt. Diese Merkmale müssen zusammen vorliegen. Welches gebaute oder geplante Gerät erfüllt die Liste?
Gegenüber dem Bundestag erklärte die Bundesregierung im April 2026, sie unterscheide zwischen Waffensystemen mit automatisierten Funktionen, solchen mit autonomen Funktionen unter menschlicher Kontrolle und vollautonomen Systemen jenseits menschlicher Kontrolle. Verboten werden soll allein die dritte Kategorie. Ein rechtsverbindliches CCW-Zusatzprotokoll hatte Berlin schon 2024 befürwortet. KI-unterstützte Loitering Munition, also über einem Gebiet kreisende Einwegdrohnen, gilt derselben Antwort als Voraussetzung für glaubhafte Abschreckung.
In der Fachöffentlichkeit wurde der Wegfall der alten Formel begrüßt. Frank Sauer und Vanessa Vohs von der Universität der Bundeswehr München schrieben am 16. Juli 2026 in der Zeitschrift „Internationale Politik“ unter der Überschrift „Bye bye, human in the loop“, das Ministerium habe eine Konzeption auf der Höhe der Zeit vorgelegt. Christoph Marischka von der Informationsstelle Militarisierung hält dagegen: Formulierungen dieser Art seien im vorhandenen Schrifttum äußerst selten und stammten im deutschen Sprachraum nahezu ausschließlich von einem der beiden Autoren; Leitplanken und klare Einschränkungen enthalte das Dokument nicht. Herausgegeben wird die Zeitschrift von der Deutschen Gesellschaft für Auswärtige Politik, zu deren Förderern nach Marischkas Darstellung Airbus und Helsing zählen.
Das europäische Recht steht ebenfalls nicht im Weg, und zwar planmäßig. Artikel 2 Absatz 3 der KI-Verordnung nimmt Systeme aus, die ausschließlich militärischen Zwecken, Verteidigungszwecken oder Zwecken der nationalen Sicherheit dienen. Die Konzeption widmet dieser Ausnahme eine eigene Anlage, eine ministerielle Stellungnahme vom 30. Januar 2025, die den Dienststellen als Leitfaden dient, wie sich die Ausnahme im Einzelfall begründen lässt. Offenlegungspflichten seien unter Geheimhaltungsaspekten problematisch, Dokumentations- und Transparenzpflichten stellten „nicht zu unterschätzende bürokratische Hürden“ auf, welche den schnellen Aufwuchs an Fähigkeiten verzögern könnten.
An anderer Stelle wägt dasselbe Regelwerk die Risiken des Verzichts auf KI ab. Manuelle Prozesse führten zu erheblichen Effizienzverlusten, da Menschen „teilweise eine höhere Fehleranfälligkeit und langsamere Reaktionszeit“ aufwiesen als KI-Systeme. Der Satz steht in einer Vorschrift, die ausdrücklich auch für Waffensysteme gilt. Am 26. September 1983 stufte Oberstleutnant Stanislaw Petrow die Meldung des sowjetischen Frühwarnsystems über anfliegende amerikanische Interkontinentalraketen als Fehlalarm ein. Er war langsamer als die Maschine und misstrauischer.
Die öffentliche Debatte kreist um die Drohne, die selbständig tötet. Das ist das sichtbare Ende einer längeren Kette. Militärische Gewalt entsteht aus Aufklärung, Lagebild, Zielauswahl, Planung, Befehl und Wirkung, und auf jeder dieser Stufen wird KI eingeführt. Wie das aussieht, beschreibt das ukrainische Verteidigungsministerium in einem eigenen Erklärstück: KI beschleunigt die kill chain, also die Kette von der Entdeckung eines Ziels bis zur Beurteilung der Wirkung. Arbeitet die Aufklärung in Sekunden, darf die Zielauswahl keine Minuten brauchen; arbeitet die Zielauswahl in Sekunden, wird die menschliche Freigabe zum Flaschenhals. Innerhalb der Kette gibt es keinen Punkt, an dem diese Logik von selbst stehen bleibt. Ein Mensch, der im Sekundentakt einen maschinellen Vorschlag bestätigt, ist ein Formular.
Die Warnungen liegen vor. Die Generalversammlung der Vereinten Nationen nahm am 1. Dezember 2025 die Resolution 80/57 mit 164 gegen 6 Stimmen bei 7 Enthaltungen an; sie benennt Rüstungswettlauf, Fehleinschätzungen, sinkende Konfliktschwellen und die Verbreitung bis hin zu nichtstaatlichen Akteuren. Am 25. August 2026 erneuerten UN-Generalsekretär António Guterres und die Präsidentin des Internationalen Komitees vom Roten Kreuz, Mirjana Spoljaric, ihren gemeinsamen Appell: Man sei gefährlich nahe daran, eine moralische rote Linie zu überschreiten, die autonome Zielerfassung von Menschen durch Maschinen.
Auf der nuklearen Ebene fehlt seit dem 5. Februar 2026 die letzte rechtsverbindliche Obergrenze für die strategischen Arsenale der Vereinigten Staaten und Russlands. SIPRI hat schon vor dem Auslaufen von New START darauf hingewiesen, dass Transparenz und Berechenbarkeit die strategische Stabilität tragen und dass Künstliche Intelligenz und andere neue Technologien die Eskalationsdynamik zusätzlich unberechenbar machen, während belastbare diplomatische und militärische Kanäle zwischen Washington, Moskau und Peking fehlen.
Daraus folgt eine Forderung, die sich in einem Satz sagen lässt. Künstliche Intelligenz gehört aus der militärischen Gewaltkette heraus: aus der Zielauswahl, aus der Planung, aus der Befehlsgebung und aus der nuklearen Freigabe. Für Logistik, Wartung, Sprachverarbeitung, Ausbildung und Verwaltung bleibt sie möglich, denn diese Anwendungen wenden keine Gewalt an und bereiten sie nicht vor. In Frühwarn- und nuklearen Führungsnetzen haben KI-Agenten nichts zu suchen, und keine Einsatzentscheidung darf allein auf einer maschinellen Empfehlung beruhen.
Einseitiger Verzicht schafft keine Sicherheit; das Argument, andere täten es ohnehin, hat einen wahren Kern. Deshalb heißt die Antwort Vereinbarung. Wenn Fähigkeiten in Software, Modellen und Daten stecken, lassen sie sich nicht zählen. Verifiziert werden müssen dann Prozesse: Doktrin-Transparenz, gegenseitige Einsicht in Freigabeverfahren, gemeinsame Test- und Übungsformate, dokumentierte Entscheidungsketten. Dazu ein internationales Meldesystem für KI-Zwischenfälle nach dem Vorbild der zivilen Luftfahrt, in dem Fehlklassifikationen und Beinahe-Eskalationen ohne Schuldzuweisung ausgetauscht werden. Dazu vereinbarte Mindestzeiten zwischen Erkennung und Wirkung. Dazu ständige Konferenzformate der großen Mächte und direkte Kanäle für Zwischenfälle im Cyberraum. Am Ende ein völkerrechtliches Instrument, das die Gewaltkette dem Menschen vorbehält und die übrigen militärischen Anwendungen der Verantwortung, der Nachprüfbarkeit, der Dokumentation und der Abschaltbarkeit unterwirft.
Für die Beschaffung heißt das, dass Vorhaben mit KI-Anteil daraufhin geprüft werden, ob sie in die Gewaltkette eingreifen. Private Anbieter, deren Modelle in militärischen Entscheidungsprozessen sitzen, unterliegen Offenlegungs- und Haftungspflichten; ihre Datenquellen sind der parlamentarischen Kontrolle zugänglich zu machen.
Neu ist dieser Gedanke nicht. 1982 legte die Unabhängige Kommission für Abrüstung und Sicherheit unter dem schwedischen Ministerpräsidenten Olof Palme, mit Egon Bahr als prägendem Mitglied, ihren Bericht vor. Der Palme-Bericht hielt fest, der Frieden müsse sich auf ein Engagement für das gemeinsame Überleben gründen statt auf die Drohung gegenseitiger Auslöschung. Aus diesem Gedanken entstanden die KSZE und die Verträge, deren letzter im Februar ausgelaufen ist. Auf militärische KI passt er wieder: Kein Staat kann einseitig wissen, wo der andere steht.
Unverbindlich ist der Text aus Genf. Die Vorschrift vom 9. April ist es nicht.
Quellenverzeichnis
[1] Reuters: States reach agreement at autonomous weapons talks in Geneva, 5. September 2026. https://www.brecorder.com/news/40438139/states-reach-agreement-at-autonomous-weapons-talks-in-geneva
[2] UNODA: Convention on Certain Conventional Weapons – Group of Governmental Experts on Lethal Autonomous Weapons Systems (2026), Sitzungen 2.–6. März und 31. August–4. September 2026. https://meetings.unoda.org/ccw-/convention-on-certain-conventional-weapons-group-of-governmental-experts-on-lethal-autonomous-weapons-systems-2026
[3] BMVg: Künstliche Intelligenz, K-9000/102, Öffentliche Fassung, Gültigkeitsbeginn 9. April 2026. https://www.bmvg.de/resource/blob/6143700/9954e2b6b993b17cd3d09ca31c506774/dl-ki-konzeption-data.pdf
[4] BMVg: KI-Konzeption – zukunftsfähige Verteidigung mit Künstlicher Intelligenz, 12. August 2026. https://www.bmvg.de/de/aktuelles/verteidigungsministerium-erlaesst-ki-konzeption-6140520
[5] Thomas Wiegold: Künstliche Intelligenz (KI) in der Bundeswehr – Konzeption jetzt in öffentlicher Fassung, Augen geradeaus!, 13. August 2026. https://augengeradeaus.net/2026/08/kuenstliche-intelligenz-ki-in-der-bundeswehr-konzeption-jetzt-in-oeffentlicher-fassung/
[6] Deutscher Bundestag, heute im bundestag: Einsatz von KI-Waffensystemen bei der Bundeswehr, 10. April 2026 (Antwort auf Drucksache 21/5169). https://www.bundestag.de/presse/hib/kurzmeldungen-1164648
[7] Deutscher Bundestag, heute im bundestag: Ächtung von Waffensystemen außerhalb menschlicher Kontrolle, 23. Mai 2024 (Antwort auf Drucksache 20/11452). https://www.bundestag.de/presse/hib/kurzmeldungen-1004096
[8] Frank Sauer / Vanessa Vohs: Bye bye, human in the loop – (Endlich) neue Regeln für Waffenautonomie, Internationale Politik, 16. Juli 2026. https://internationalepolitik.de/de/bye-bye-human-loop-endlich-neue-regeln-fuer-waffenautonomie
[9] Christoph Marischka: Konstruierter Konsens zur kontextabhängigen Nicht-Kontrolle, IMI-Standpunkt 2026/055, Informationsstelle Militarisierung, 21. August 2026. https://www.imi-online.de/2026/08/21/konstruierter-konsens-zur-kontextabhaengigen-nicht-kontrolle/
[10] Verteidigungsministerium der Ukraine: What is the kill chain, and how does AI help destroy enemy targets faster?, 28. August 2026. https://mod.gov.ua/en/explainers/what-is-the-kill-chain-and-how-does-ai-help-destroy-enemy-targets-faster
[11] Generalversammlung der Vereinten Nationen: Resolution A/RES/80/57, Lethal autonomous weapons systems, angenommen am 1. Dezember 2025 (164:6:7). https://digitallibrary.un.org/record/4095989/files/A_RES_80_57-EN.pdf
[12] IKRK / Vereinte Nationen: Renewed call from UN Secretary-General and ICRC President to adopt rules on autonomous weapon systems, 25. August 2026. https://www.icrc.org/en/statement/renewed-call-un-secretary-general-and-icrc-president-adopt-rules-autonomous-weapons
[13] SIPRI: After New START expires, Europe needs to step up on arms control, 4. Februar 2026. https://www.sipri.org/commentary/essay/2026/after-new-start-expires-europe-needs-step-arms-control
[14] Atomwaffen A-Z: Palme-Bericht – Bericht der Unabhängigen Kommission für Abrüstung und Sicherheit, Berlin 1982 (Auszug). https://www.atomwaffena-z.info/glossar/begriff/palme-bericht
Transparenzhinweis: Für diesen Text habe ich eine KI zur Recherche von Quellen, zur Auswertung von Material, als Sparringspartner bei der Durcharbeitung der Argumente, zur Rechtschreibprüfung, zur Bildgenerierung, für Entwürfe sowie für eine abschließende Prüfung auf Verständlichkeit und Lesbarkeit eingesetzt. Fragestellung, Einwände, Bewertungsmaßstäbe und die Endfassung stammen von mir. Autor dieses Textes bin ich.


