Das KI-Unternehmen Anthropic berichtet über den Missbrauch seines Sprachmodells Claude durch russlandnahe Akteure. Nach den vorliegenden Angaben soll eine Hackergruppe das System genutzt haben, um Cyberangriffe auf mehr als 20 Organisationen zu automatisieren. Zu den mutmaßlichen Zielen gehörten demnach ukrainische Verteidigungsministerien und Zulieferer für Drohnen.
Die Angaben stammen aus einem Bericht von Anthropic, über den Euronews berichtet. Aus den vorliegenden Informationen geht nicht hervor, wann die einzelnen Angriffe stattgefunden haben oder welche konkreten Schäden entstanden sein sollen. Ebenso werden keine Einzelheiten zu den betroffenen Organisationen außerhalb der genannten Beispiele genannt.
Neben den Cyberangriffen beschreibt der Bericht einen weiteren Einsatz des KI-Modells. Andere Akteure sollen Claude demnach für pro-kremlnahe Desinformationskampagnen in Afrika und Moldau verwendet haben. Dabei handelt es sich laut den vorliegenden Informationen um von den Cyberaktivitäten getrennte Vorgänge.
Der Einsatz von Claude in den beschriebenen Fällen verweist darauf, dass generative KI sowohl für technische Angriffe als auch für die Erstellung oder Verbreitung politisch ausgerichteter Inhalte missbraucht werden kann. Konkrete Angaben dazu, welche Inhalte erzeugt wurden, über welche Kanäle sie verbreitet wurden oder welche Reichweite die Kampagnen erzielten, liegen nicht vor.
Anthropic bezeichnet die beteiligten Gruppen als russlandnah. Diese Einordnung belegt nach den vorliegenden Informationen jedoch keine direkte Kontrolle oder Steuerung durch die russische Regierung. Auch eine staatliche Urheberschaft der beschriebenen Aktivitäten wird damit nicht nachgewiesen.
Der Fall betrifft mehrere Länder und hat keinen einzelnen, eindeutig zuzuordnenden Ereignisort. Im Mittelpunkt stehen nach dem Bericht der mögliche Einsatz künstlicher Intelligenz bei Angriffen auf ukrainische Einrichtungen sowie Desinformationsaktivitäten mit Bezug zu Afrika und Moldau. Weitere Bewertungen zu den Verantwortlichen oder zu den Folgen lassen die vorliegenden Informationen nicht zu.
