Was passiert ist
Beim US-Militär soll es zu zwei folgenreichen Fehlern im Zusammenhang mit dem Einsatz künstlicher Intelligenz gekommen sein. Berichten zufolge führte eine fehlerhafte Auswertung beinahe zu einem Einsatz gegen China. In einem weiteren Fall soll ein KI-System Bildmaterial im Zusammenhang mit einem tödlichen US-Angriff auf Schulkinder im Iran nicht als veraltet erkannt haben.
Die Berichte werfen damit Fragen zum Einsatz automatisierter Systeme in militärischen Entscheidungsprozessen auf. Nach den vorliegenden Informationen blieb es im Zusammenhang mit dem möglichen Einsatz gegen China bei einer Beinahe-Situation. Zu den konkreten Folgen des Vorfalls im Iran liegen keine weiteren Angaben vor.
Was wir wissen
Die Informationen stammen aus einer Meldung des österreichischen Nachrichtenmediums DER STANDARD. Darin wird unter Berufung auf CNN über eine KI-Panne berichtet, die beinahe einen Krieg ausgelöst haben soll. Eine weitere geschilderte Fehlleistung betrifft die Bewertung von Bildmaterial durch die US-Armee.
Das fragliche Material soll im Zusammenhang mit einem tödlichen US-Angriff auf Schulkinder im Iran gestanden haben. Nach der Darstellung wurde nicht erkannt, dass die Aufnahmen veraltet waren. Die vorliegenden Angaben nennen außerdem China als möglichen Bezug des zweiten Vorfalls, enthalten jedoch keine näheren Einzelheiten zu Ort, Zeitpunkt oder beteiligten Einheiten.
Die Fälle betreffen damit US-Militäraktivitäten mit Bezug zu China und Iran. Sie werden als Beispiele für mögliche Sicherheits- und Auswertungsfehler beim Einsatz von KI in militärischen Zusammenhängen beschrieben.
Was noch unklar ist
Offen bleibt, welches konkrete KI-System eingesetzt wurde und wie die jeweiligen Fehler entstanden. Nicht bekannt ist außerdem, welche menschlichen Prüfungen vorgesehen waren, ob sie stattgefunden haben und warum die fehlerhaften Einschätzungen zunächst nicht korrigiert wurden.
Ebenso fehlen Angaben dazu, wie knapp ein Einsatz gegen China tatsächlich bevorstand und welche Entscheidungen auf Grundlage der fehlerhaften Auswertung getroffen wurden. Für den Vorfall im Iran ist nicht näher beschrieben, wann der Angriff stattfand, welche Auswirkungen die falsche Bewertung des Bildmaterials hatte oder ob der Fehler nachträglich festgestellt wurde.
Die vorliegenden Informationen bestätigen zudem nicht, ob die Berichte durch offizielle Stellen des US-Militärs bestätigt wurden. Daher lassen sich aus den Angaben keine weitergehenden Aussagen über die Verantwortlichkeit oder über generelle Sicherheitsstandards der eingesetzten Systeme ableiten.
Quelle
DER STANDARD
