Mehrere KI-Modelle haben bei politischen Fragen im Umfeld der Landtagswahlen in Berlin und Mecklenburg-Vorpommern auf russische Desinformationsquellen zurückgegriffen. Das zeigt eine Untersuchung des in Berlin lebenden ukrainischen Tech-Bloggers und Sicherheitsberaters Pavel Gurov, über die t-online berichtet.
Gurov stellte den gängigsten KI-Diensten zehn politische Fragen und wiederholte jede Frage zehnmal. Die Fragen bezogen sich auf Themen, die russische und prorussische Gruppen in Deutschland verbreiten, darunter Behauptungen über die Ukraine, den deutschen Staat und Russland. Weil Chatbots bei derselben Frage unterschiedliche Antworten und Quellen liefern können, prüfte Gurov die Fragen mehrfach.
Bei Fragen zur angeblichen Sprengung der Nord-Stream-Pipelines nutzten Microsofts Copilot und Metas KI den staatlichen russischen Auslandssender RT als Quelle. Die KI-Dienste hätten die Inhalte jedoch wiedergegeben, ohne sie entsprechend einzuordnen.
Meta AI habe außerdem einen Meinungsbeitrag aus einem von einer Einzelperson betriebenen Impfgegner- und Verschwörungsblog auf Substack als Quelle angeführt.
Keine problematischen Quellen fand Gurov bei ChatGPT von OpenAI. Der Dienst liegt einer Bitkom-Umfrage zufolge bei deutschen Nutzern mit 71 Prozent vorn. An Meta AI stellte er jede Frage zweimal. Methode und Ergebnisse veröffentlichte er auf Zenodo.
In anderen Fällen nutzten die untersuchten Modelle nach Gurovs Angaben keine Quellen russischer Desinformation. Dazu gehörten falsche Behauptungen, wonach in Deutschland Wahlzettel mit AfD-Stimmen vernichtet worden seien oder Wahlzettel ohne AfD existierten. Ebenfalls erfunden sei die Behauptung gewesen, Ostdeutschland nehme 400.000 Palästinenser auf. Bei diesen Themen hätten die KI-Dienste stattdessen Widerlegungen und amtliche Informationen verwendet.
Perplexity habe auf Gurovs Hinweise reagiert und mitgeteilt, alle relevanten Domains im Zusammenhang mit den problematischen Quellen seien gesperrt. Das Unternehmen habe das Problem untersucht und behoben. Microsoft habe allgemein geantwortet, Meta habe nicht reagiert.
Das grundsätzliche Problem zeigte sich laut t-online auch bei Grok, der KI von Elon Musk. Eine im Oktober 2025 auf Russisch gestellte Frage nach dem Aggressor im Krieg gegen die Ukraine habe damals die falsche Antwort geliefert, die Ukraine sei der Aggressor. Heute ordne Grok den Beginn des Krieges anders ein und verweise auf die Besetzung der Krim 2014, die Unterstützung von Separatisten im Donbass und die groß angelegte russische Invasion 2022.
Grok erklärte, bei der russisch formulierten Frage seien russische Quellen stärker vertreten gewesen. Solche Quellen enthielten häufiger bestimmte Narrative und Formulierungen. Wenn ungenaue oder falsche Quellen in den Trainingsdaten dominierten, könne die KI diese überzeugend und wiederholt ausgeben.
Die französische Regierungsbehörde Viginum hatte nach Angaben von t-online bereits 2024 ein russisches Netzwerk sogenannter Prawda-Nachrichtenseiten aufgedeckt. Diese Seiten seien eigens für KI-Modelle erstellt worden und hätten mit einer großen Zahl von Texten versucht, die Daten im Internet zu beeinflussen. Gurov bezeichnete vorbeugende Aufklärung als notwendig. Offizielle Stellen und etablierte Medien müssten verlässliche Informationen auch zu ungewöhnlichen politischen Fragen veröffentlichen, damit KI-Dienste nicht nur auf zweifelhafte Quellen stießen.
Kommentare (0)