Eine Konferenz der Vereinten Nationen in Genf soll am Montag beginnen und darüber beraten, wie Einschränkungen und Verbote für solche Waffen festgelegt werden können. Manche nennen sie Killerroboter.
Some Analysten bezweifeln laut AFP, dass die Gespräche im Rahmen des Übereinkommens über bestimmte konventionelle Waffen (CCW) mit der schnellen Entwicklung dieser Waffen Schritt halten werden. Jean-Marc Rickli, Leiter für globale und aufkommende Risiken am Geneva Center for Security Policy, beschreibt tödliche autonome Waffensysteme als Systeme, die ein Ziel ohne Eingreifen eines menschlichen Bedieners identifizieren, auswählen und bekämpfen können.
Autonome Waffen gibt es seit Langem. Laure de Roucy-Rochegonde vom Center for Geopolitics of Technology am französischen Institut für Internationale Beziehungen (IFRI) verweist auf Anti-Personen-Minen, die explodieren, sobald jemand auf sie tritt. Mit der Verbreitung KI-gestützter Drohnen können Waffen nach Rickli inzwischen ein Ziel auswählen und bekämpfen, das nicht vorab festgelegt war, und sich ohne menschliches Eingreifen an ihre Umgebung anpassen.
Deshalb liegt der entscheidende Punkt für mögliche Regulierer nach Einschätzung der Analysten darin, wie viel menschliche Kontrolle es über die Entscheidung zum Einsatz einer solchen Waffe geben muss. Die Vereinigten Staaten sprechen von "angemessenen Graden menschlichen Urteils" beim Einsatz autonomer Waffen. Frankreich verlangt, dass ein Mensch in der Entscheidungskette bleibt. Es verbietet tödliche autonome Waffensysteme, erlaubt jedoch teilautonome Systeme, sogenannte PLAWS.
Rear Admiral Vincent Sebastien, stellvertretender Direktor der Agentur für Verteidigungs-KI (AMIAD) im französischen Verteidigungsministerium, erklärte, die menschliche Rolle werde durch eine sogenannte angemessene Kontrolle durch einen militärischen Kommandeur gewährleistet. Deren Umfang hänge von der Kritikalität des Systems und dem operativen Kontext ab.
UN-Generalsekretär Antonio Guterres und die Präsidentin des Internationalen Komitees vom Roten Kreuz, Mirjana Spoljaric, warnten im August in einer gemeinsamen Erklärung, man stehe gefährlich nahe davor, eine moralische rote Linie zu überschreiten: das autonome Anvisieren von Menschen durch Maschinen. Die Analysten sagten, die Gespräche in Genf seien zwar wichtig, würden aber nur einen Teil des Problems behandeln.
Die Agenda in Genf nannte er "sehr eng". Sie erfasse nicht das gesamte Spektrum der Fragen rund um KI auf dem Schlachtfeld, einem Bereich, in dem ihr Einsatz zunehme, besonders bei der Zielgenerierung. Als Beispiel nannte er den Krieg der USA und Israels gegen Iran in diesem Jahr, bei dem die Amerikaner nach seinen Angaben bis zu 1.000 Ziele pro Tag im Iran bekämpft hätten.
De Roucy-Rochegonde sagte, mit Zielauswahl- und Entscheidungsunterstützungssystemen seien zahlreiche Probleme und inakzeptable Risiken verbunden. Ein Teil der Debatte betreffe Systeme, die bereits weit auf dem Schlachtfeld eingesetzt würden. Sie fragte, welche Art menschlicher Aufsicht nötig sei, damit der Bediener tatsächlich eigenes Urteil ausübe und nicht lediglich die Empfehlungen der Maschine abnicke.
Die in Genf zu besprechenden autonomen Waffen seien noch nicht weit verbreitet. Analysten hätten jedoch festgestellt, dass sie von Russland in seinem Angriffskrieg gegen die Ukraine sowie bei US-Angriffen im Iran eingesetzt worden seien. Rear Admiral Sebastien warnte, Autonomie werde auf dem Schlachtfeld sehr schnell Realität werden.
Guterres und Spoljaric erklärten in ihrer Mitteilung, autonome Waffensysteme seien keine Zukunftsmusik. Ein Wettlauf um mehr Autonomie bei Waffensystemen sei bereits in vollem Gange.
Erhebliche Zweifel und Gefahren bleiben nach Angaben der Quelle dennoch bestehen. Dario Amodei, Chef des KI-Konzerns Anthropic, warnte in diesem Jahr, heutige KI-Systeme an der Grenze der Entwicklung seien schlicht nicht zuverlässig genug, um vollständig autonome Waffen anzutreiben. Die Anreize für die Großmächte seien trotzdem zu stark.
Schwärme autonomer Drohnen, die einen Gegner durch Sättigung neutralisieren sollen, wären laut Rickli sehr wirkungsvoll. Manche Staaten sähen darin einen entscheidenden strategischen Vorteil. Das chinesische Verteidigungsministerium bezeichnete Drohnenschwärme im Januar als "neues Gesicht der Kriegsführung".
Gerald Mako, Forschungsmitarbeiter der Universität Cambridge im Small Wars Journal, sagte: In einer Ära scharfer militärischer Konkurrenz werde der erste Staat, der vollautonome tödliche Angriffe normalisiere, die Erwartungen an alle anderen neu setzen.
Die Quelle ist Arab News.
Kommentare (0)