ISIL-Anhänger versuchen offenbar, die Schutzvorkehrungen kommerzieller Systeme mit künstlicher Intelligenz zu umgehen. Das geht aus einem investigativen Bericht des Senders Al Jazeera English hervor. Demnach tauschen Unterstützer der Terrororganisation Methoden aus, mit denen sich die Sicherheitsmechanismen der Systeme umgehen lassen sollen.
Den vorliegenden Angaben zufolge wird dabei auch der KI-Dienst Grok genutzt. ISIL-Unterstützer sollen versucht haben, über das System Anleitungen zum Bau von Bomben zu erhalten oder entsprechende Inhalte zu entwickeln. Konkrete Anleitungen oder technische Einzelheiten werden in diesem Artikel nicht wiedergegeben.
Al Jazeera English berichtet, dass dem Sender Belege exklusiv übermittelt worden seien. Diese Hinweise sollen zeigen, wie extremistische Netzwerke kommerzielle KI-Werkzeuge für die Beschaffung gefährlicher Inhalte zu nutzen versuchen. Die Informationen beziehen sich auf Aktivitäten in Online-Netzwerken; ein einzelner geografischer Ort lässt sich den Angaben nicht zuordnen.
Der Bericht macht damit auf ein Sicherheitsproblem bei frei zugänglichen oder kommerziell angebotenen KI-Systemen aufmerksam. Schutzmechanismen sollen verhindern, dass solche Dienste bei der Erstellung gefährlicher oder illegaler Inhalte helfen. Nach den vorliegenden Informationen versuchen ISIL-Unterstützer jedoch, diese Vorkehrungen durch den Austausch entsprechender Vorgehensweisen zu umgehen.
Wie weit die beschriebenen Versuche erfolgreich waren, geht aus den vorliegenden Angaben nicht hervor. Ebenfalls liegen keine Informationen dazu vor, ob aus den beschriebenen Aktivitäten konkrete Anschlagspläne oder fertige Waffen entstanden sind. Fest steht nach dem Bericht lediglich, dass extremistische Netzwerke kommerzielle KI-Systeme auf diese Weise zu nutzen versuchen.
Der Fall verdeutlicht nach Einschätzung des Berichts die Herausforderung, Sicherheitsvorkehrungen für KI-Anwendungen gegen organisierte Umgehungsversuche zu schützen. Die vorliegenden Informationen enthalten jedoch keine Angaben zu möglichen Reaktionen der betroffenen Anbieter oder zu weiteren Ermittlungen. Der Bericht wurde von Al Jazeera English veröffentlicht.
