Ein Messerangreifer in Zürich soll bei der Planung eines Angriffs auf Kinder einen KI-Assistenten eingesetzt haben. Nach Angaben der Schweizer Zeitung Blick rückt der Fall damit den möglichen Missbrauch generativer künstlicher Intelligenz durch Kriminelle in den Fokus. Ob dabei Claude, ChatGPT oder ein vergleichbarer Dienst verwendet wurde, wird in der Meldung nicht abschließend geklärt.
Der Einsatz eines solchen Systems bei der Vorbereitung einer möglichen Gewalttat wirft Fragen nach den Grenzen und Schutzmechanismen generativer KI auf. Die Programme können Texte erstellen, Informationen strukturieren und auf Anfragen reagieren. Zugleich besteht die Sorge, dass sie von Einzelpersonen für schädliche oder kriminelle Zwecke missbraucht werden könnten.
Der KI-Experte Reto Vogt fordert deshalb laut Blick strengere Regeln für Anbieter entsprechender Dienste. Im Mittelpunkt steht dabei die Frage, wie verhindert werden kann, dass Nutzer künstliche Intelligenz zur Vorbereitung von Angriffen oder anderen Straftaten einsetzen. Konkrete Angaben zu möglichen neuen Vorgaben oder zu den Reaktionen der betroffenen Anbieter enthält die vorliegende Meldung nicht.
Der Fall aus Zürich wird in einen größeren Zusammenhang mit dem möglichen Einsatz von KI durch gewaltbereite Akteure gestellt. Verwiesen wird dabei auf Berichte, wonach auch die Huthi-Rebellen im Jemen künstliche Intelligenz zur Entwicklung von Waffen nutzen sollen. Die beiden Fälle unterscheiden sich nach den vorliegenden Informationen deutlich, führen aber zu einer ähnlichen grundsätzlichen Frage: Wie lässt sich verhindern, dass frei zugängliche digitale Werkzeuge für Gewalt und Waffenentwicklung eingesetzt werden?
Die Angaben zum Zürcher Fall beruhen auf der Darstellung von Blick. Aus den vorliegenden Informationen geht nicht hervor, welche konkreten Anfragen der mutmaßliche Angreifer an den KI-Assistenten gestellt haben soll. Ebenso bleibt offen, in welchem Umfang die Technologie bei der Planung eine Rolle spielte und ob sie für die Vorbereitung oder Durchführung der Tat entscheidend war.
Der mögliche Einsatz generativer KI macht damit nicht nur die Verantwortung einzelner Nutzer zum Thema. Auch die Anbieter stehen vor der Aufgabe, ihre Systeme gegen missbräuchliche Anwendungen abzusichern. Welche zusätzlichen Regeln notwendig wären und wie sie umgesetzt werden könnten, ist nach der vorliegenden Meldung noch offen. Der Fall dürfte die Diskussion über Sicherheitsvorkehrungen, Anbieterpflichten und den Umgang mit gefährlichen Anfragen weiter verstärken.
