Bei der Funktion beginnen, nicht beim Etikett
Eine autonome Waffe wird allgemein als ein System verstanden, das nach seiner Aktivierung Ziele auswählen und bekämpfen kann, ohne dass ein Mensch jeden einzelnen Angriff genehmigt. Definitionen bleiben umstritten, weil Autonomie kein einzelner Schalter ist. Menschen können das Einsatzgebiet und die Zielklasse wählen, während Software navigiert, ein Objekt identifiziert, eine Handlung empfiehlt, oder den genauen Moment des Feuerns bestimmt.
Dieses Spektrum umfasst seit Langem bestehende Systeme wie defensive Abfangsysteme ebenso wie neuere Loitering-Munition, Drohnenschwärme, KI-gestützte Zielerfassungswerkzeuge und bewaffnete Bodenroboter — die radgetriebenen, kettengetriebenen und laufenden Plattformen, die auf der Seite dieses Handbuchs zu militärischen humanoiden und Bodenrobotern untersucht werden. Das Risiko hängt von Umgebung, Ziel, Zeitdruck, Vorhersehbarkeit, Kommunikation und den Folgen eines Fehlers ab. Ein eng abgegrenztes System, das ankommende Munition abfängt, unterscheidet sich von einem, das eine Stadt nach Menschen absucht.
KI-gestützte Entscheidungsunterstützung verdient ebenfalls Prüfung, selbst wenn formal ein Mensch abdrückt. Erhält ein Operator unter starkem Zeitdruck Hunderte maschinell erzeugte Ziele, kann die Genehmigung zu einer bloßen Formsache werden. „Mensch in der Schleife” sagt wenig aus, sofern die Person nicht über Information, Autorität, Zeit und Ausbildung verfügt, um das System infrage zu stellen.
Was dokumentiert ist — und was umstritten bleibt
Ein Bericht des Expertengremiums der Vereinten Nationen zu Libyen aus dem Jahr 2021 beschrieb Kargu-2-Loitering-Munition und andere Systeme, die gegen sich zurückziehende Kräfte eingesetzt wurden, und vermerkte, die Systeme seien so programmiert gewesen, dass sie Ziele angreifen konnten, ohne eine Datenverbindung zwischen Operator und Munition zu benötigen (UN-Bericht zu Libyen, Absatz 63). Die Passage wird häufig als erster autonomer Drohnenangriff auf Menschen bezeichnet. Der öffentliche Bericht belegt jedoch nicht schlüssig, dass ein Kargu-2 eigenständig eine Person ausgewählt und getötet hat. Experten sind sich über Betriebsmodus und Ausgang uneinig. Es ist Evidenz für einen Einsatz in einem relevanten Kontext, kein Beweis für eine bestätigte autonome Tötung.
Neuere Konflikte waren von umfangreichem Drohneneinsatz, Computer Vision, automatisierter Aufklärungsverarbeitung und KI-gestützten Zielempfehlungen geprägt. Öffentlicher Berichterstattung fehlt oft ausreichender technischer Zugang, um festzustellen, welches Modell welche Funktion übernahm oder wie viel Kontrolle Operatoren behielten. Militärische Behauptungen, Herstellerbeschreibungen und Presseberichte sollten entsprechend gekennzeichnet werden, statt zu einer einzigen Gewissheit verschmolzen zu werden.
Die Entwicklungsrichtung ist dennoch klar: Streitkräfte investieren in Systeme, die bei gestörter Kommunikation operieren, Sensordaten schnell verarbeiten und viele kostengünstige Plattformen koordinieren können. Größere Autonomie kann taktisch attraktiv sein, weil eine dauerhafte Fernsteuerungsverbindung verwundbar ist. Ob das zu sicherer Präzision oder zu schnellerer, weniger rechenschaftspflichtiger Gewalt führt, hängt von Design und Doktrin ab.
Drei unterschiedliche Eskalationspfade
Geschwindigkeitseskalation entsteht, wenn automatisierte Warnung, Zielerfassung oder Reaktion die Entscheidungszeit komprimieren. In einer Krise könnten Entscheidungsträger befürchten, dass Abwarten einem gegnerischen System mit Maschinengeschwindigkeit einen Vorteil verschafft. Das kann Druck erzeugen, Handlungen vorab zu autorisieren. Eine falsche Sensorablesung, ein Modellfehler oder ein mehrdeutiges Manöver könnten sich verbreiten, bevor Menschen sie verstehen.
Skaleneskalation entsteht, wenn Autonomie die Koordination vieler Systeme oder die Erzeugung von Zielen verbilligt. Eine menschliche Organisation, die Dutzende Entscheidungen sorgfältig prüfen könnte, prüft Tausende womöglich nicht mehr bedeutsam. Größeres Volumen kann zufällige Zusammenstöße, zivile Schäden und Vergeltungsforderungen erhöhen, selbst wenn jedes System einzeln präziser ist.
Wahrnehmungseskalation entsteht, wenn Staaten das System, die Doktrin oder den Kontrollgrad eines Gegners falsch einschätzen. Geheimhaltung erschwert es zu wissen, ob eine Waffe defensiv ist, ob eine Handlung beabsichtigt war, oder ob ein Mensch sie stoppen kann. Eine KI-generierte Empfehlung kann der einen Seite objektiv, der anderen aggressiv erscheinen.
Das sind plausible Mechanismen, keine Evidenz dafür, dass KI zwangsläufig einen Krieg auslösen wird. Automatisierung kann auch Warnung verbessern, die Überlastung von Operatoren verringern, Bedrohungen abfangen und Deeskalation unterstützen. Das Ergebnis hängt von Tests, Kommunikation, Doktrin und gemeinsamen Beschränkungen ab.
Nukleare Systeme verdienen eine höhere Schwelle
KI mit nuklearer Führung, Kontrolle, Kommunikation oder Frühwarnung zu verbinden, erhöht die Einsätze außerordentlich. Maschinelles Lernen könnte helfen, große Sensorströme zu analysieren, doch undurchsichtige Fehler, adversariale Manipulation und Verteilungsverschiebung sind gefährlich, wo falsches Vertrauen katastrophal sein kann. Das Risiko ist nicht notwendigerweise eine KI, die eigenständig „Atomwaffen abschießt”. Es schließt ein, dass Entscheidungsträger innerhalb von Minuten komprimierten, schlecht kalibrierten Rat erhalten.
Die menschliche Verantwortung über Entscheidungen zum Nuklearwaffeneinsatz zu bewahren ist deshalb mehr als Symbolik. Systeme sollten Unsicherheit und Herkunft angeben, unabhängige Kanäle bewahren, Spoofing widerstehen, und Entscheidungsträgern Zeit zur Überprüfung geben. Keine einzelne Modellausgabe sollte zu einem entscheidenden Indikator werden. Übungen sollten KI-Versagen und absichtliche Manipulation einschließen, nicht nur Geräteausfälle.
Rechenschaftspflicht kann nicht beim Algorithmus enden
Das humanitäre Völkerrecht gilt unabhängig von der eingesetzten Technologie. Unterscheidung, Verhältnismäßigkeit und Vorsichtsmaßnahmen beim Angriff bleiben menschliche und staatliche Pflichten. Doch Autonomie erschwert die Untersuchung: Ein schädliches Ergebnis kann Trainingsdaten, Sensorbeschränkungen, die Parameter eines Kommandeurs, ein Software-Update, oder Missbrauch durch den Operator betreffen.
Diese Komplexität ist keine Entschuldigung für eine Lücke in der Rechenschaftspflicht. Staaten können rückverfolgbare Protokolle, rechtliche Überprüfung, auditierbare Tests, klare Kommandoverantwortung, und Beschränkungen der Umgebungen verlangen, in denen ein System operieren darf. Entwickler und Kommandeure sollten vorhersehbare Fehlermodi und Abbruchbedingungen definieren. Ein System, das zu unvorhersehbar für eine Überprüfung ist, sollte nicht allein deshalb eingesetzt werden, weil die Verantwortung verteilt ist.
Auch Verzerrung und Kontext spielen eine Rolle. Ein Bildverarbeitungssystem, das mit sauberem Bildmaterial getestet wurde, kann bei Wetter, Trümmern, Tarnung oder unbekannten Bevölkerungsgruppen versagen. Gegner können Sensoren absichtlich täuschen. Die über einen Testdatensatz gemittelte Genauigkeit beantwortet nicht, ob das System für eine bestimmte Zielklasse und Umgebung zuverlässig ist.
Die internationale politische Landschaft
Staaten haben tödliche autonome Waffen jahrelang im Rahmen des Übereinkommens über bestimmte konventionelle Waffen debattiert, ohne sich auf ein verbindliches Instrument zu einigen. Die Vereinigten Staaten lancierten 2023 eine unverbindliche Politische Erklärung zur verantwortungsvollen militärischen Nutzung von Künstlicher Intelligenz und Autonomie, die Unterzeichner auf Grundsätze verpflichtet, darunter Aufsicht durch hochrangige Stellen, rigorose Tests, und die Fähigkeit, Systeme mit unerwartetem Verhalten abzuschalten (Erklärung des US-Außenministeriums).
Die Erklärung kann Normen und praktische Zusammenarbeit aufbauen, doch Unterstützung ist keine Durchsetzung. Vorschläge aus Zivilgesellschaft und Staaten reichen vom Verbot von Systemen, die Menschen ohne bedeutsame menschliche Kontrolle als Ziel erfassen, bis zur Regulierung bestimmter Funktionen und der Forderung nach positiven Pflichten. Uneinigkeit besteht weiterhin über Definitionen, Verifikation und militärischen Vorteil.
Nützliche kurzfristige Maßnahmen müssen nicht auf einen umfassenden Vertrag warten. Staaten können Vorfallinformationen austauschen, autonome Entscheidungen zum nuklearen Abschuss verbieten, Waffenüberprüfungen verlangen, Teststandards festlegen, menschliche Kontrolle über die Zielerfassung von Personen schützen, und Kommunikationskanäle für KI-bezogene Unfälle einrichten.
Was bedeutsame menschliche Kontrolle erfordert
Die Formel sollte operativ sein. Ein Mensch braucht ein verständliches Ziel und eine klare Zielbegrenzung; verlässliche Information über die Konfidenz und Grenzen des Systems; genügend Zeit zum Eingreifen; einen nutzbaren Stoppmechanismus; und die rechtliche Befugnis, sich zu verweigern. Schnittstellen sollten Automatisierungsverzerrung entgegenwirken, statt rasche Bestätigung zu fördern. Nach dem Einsatz müssen Aufzeichnungen Untersuchung und Abhilfe unterstützen. Die Begleitseite dieses Handbuchs zu Bodenrobotern, Humanoiden und dem Kriegsrecht untersucht, wie dieses Erfordernis menschlicher Kontrolle bei heute im Feld eingesetzten bewaffneten Bodenrobotern tatsächlich umgesetzt wird — oder nicht.
Kontrolle beginnt zudem schon vor einem Einsatz. Politische Führungen entscheiden über Beschaffung und Doktrin; Kommandeure legen Parameter fest; Ingenieure wählen Daten und Tests aus. Sich nur auf den letzten Knopfdruck zu konzentrieren, übersieht diese folgenreichen Entscheidungen.
Eine abgewogene Schlussfolgerung
Autonomie in Waffen ist bereits eine politische und militärische Realität, doch öffentliche Evidenz zu bestimmten Einsätzen ist oft unvollständig. Der Kargu-2-Bericht sollte nicht zu einer erwiesenen autonomen Tötung aufgeblasen werden, und überwachte Zielerfassung sollte nicht fälschlich als vollständig eigenständige Kriegsführung bezeichnet werden.
Die katastrophale Sorge beruht auf glaubwürdigen Pfaden: schnellere Entscheidungen, Massenkoordination, brüchige menschliche Überprüfung, und Interaktion mit strategischen Warnsystemen. Keiner davon macht Eskalation unvermeidlich. Starke menschliche Autorität, auditierbares Design, rechtliche Rechenschaftspflicht, gemeinsame Normen, und ausdrückliche Grenzen bei nuklearen Funktionen und der Zielerfassung von Personen können das Risiko verringern, während sich die Evidenz weiterentwickelt.