Fratzscher will führende KI-Firmen in Staatseigentum überführen

Der Präsident des Deutschen Instituts für Wirtschaftsforschung, Marcel Fratzscher, fordert eine staatliche Kontrolle führender Unternehmen aus dem Bereich der Künstlichen Intelligenz. Der Staat solle Eigentümer aller sogenannten Frontier-Unternehmen und der dazugehörigen Infrastruktur werden, sagte Fratzscher der Süddeutschen Zeitung, wie WELT berichtet.

Fratzscher halte KI für die potenziell größte Bedrohung der menschlichen Existenz und für eine größere Gefahr, als es Atomwaffen jemals gewesen seien. Die Politik nehme die Risiken aus seiner Sicht nicht ernst genug. Die Sicherheitsdebatte müsse zum politischen Top-Thema in Europa und Deutschland werden.

Auch interessantAnthropic hält selbstreplizierende KI auf Heimgeräten bis Ende 2026 für möglich

Die Unternehmen hätten einen Anreiz zur Gewinnmaximierung und sammelten große Kapitalsummen ein, während die Risiken sozialisiert würden.

Fratzscher lehne es als falsches Rezept ab, lediglich den Wettbewerb zu stärken, Gewinne umzuverteilen und die Unternehmen stärker zu regulieren. Eine Selbstregulierung der Branche funktioniere nicht. Dafür brauche es globale Regeln und eine internationale Regulierungsbehörde.

Bundesdigitalminister Karsten Wildberger (CDU) forderte von den großen KI-Konzernen zugleich mehr Sorgfalt bei der Sicherheit ihrer Modelle. Die Bundesregierung wolle dies über ein eigenes KI-Sicherheitsinstitut kontrollieren, das derzeit aufgebaut werde.

Das Institut solle KI-Modelle auf Leistungsfähigkeit und Risiken prüfen, sich international vernetzen und vor der Markteinführung Zugriff auf neue Modelle erhalten. Dadurch könne der Staat bis zur Frage Einfluss nehmen, ob ein Modell in einer bestimmten Form zugelassen werde, sagte Wildberger. Dringe ein KI-Agent in fremde Systeme ein, müsse das Unternehmen dies sofort melden. Für die Folgen sollten die KI-Unternehmen selbst haften.

Er warnte besonders vor einer Zunahme KI-gestützter Cyberangriffe im kommenden Jahr.

Eine außer Kontrolle geratene Künstliche Intelligenz sei in den kommenden Jahren nach Gates’ Einschätzung eher nicht die größte Gefahr. Bedrohlicher sei, dass Menschen ohne Schutzvorkehrungen KI-Systeme für Cyberangriffe oder Bioterrorismus nutzen könnten. Deshalb müssten die Systeme strenger reguliert werden. Derzeit sei es erlaubt, sämtliche Schutzmaßnahmen abzuschalten. Dadurch könne es im kommenden Jahr vor allem im Cyberbereich zu vielen negativen Überraschungen kommen.