Neue KI-Modelle könnten staatliche IT-Projekte wie die elektronische ID und das elektronische Gesundheitsdossier angreifbarer machen.
Bisher galt es als schwierig und aufwendig, Quellcode auf diese Weise zu rekonstruieren. Dadurch konnten enthaltene Sicherheitslücken unentdeckt bleiben.
Bei Computerspielen führt die Entwicklung dazu, dass Figuren und Spielwelten miteinander verbunden werden. So könne Super Mario in der Welt von «Elden Ring» auftauchen. Auch «Minecraft» und «GTA» würden zu einem neuen Spiel verbunden. Videos solcher Anwendungen erreichten seit einigen Wochen hunderttausende Klicks.
Bei E-Banking, Unternehmenssoftware und staatlichen Anwendungen sehen Politiker dagegen eine Gefahr. SVP-Nationalrat Franz Grüter warne, künstliche Intelligenz senke die Hürde für Angriffe drastisch. Gerhard Andrey von den Grünen, Marcel Dobler von der FDP und Dominik Blunschy von der Mitte teilten diese Einschätzung.
Einen generellen Stopp staatlicher Digitalisierungsprojekte fordert keiner der vier Nationalräte. Sie verlangten jedoch, dass Sicherheitsprüfungen mit der Entwicklung künstlicher Intelligenz Schritt hielten.
Grüter fordere, der Bund solle seine Systeme laufend selbst mit KI angreifen lassen und unabhängige Prüfungen vorschreiben. Bei der E-ID und dem elektronischen Gesundheitsdossier gehe es um besonders sensible Daten. Sicherheit dürfe deshalb nicht darauf beruhen, dass der Quellcode geheim bleibe.
Dobler verlange, KI-basierte Angriffe müssten verbindlich in Sicherheitstests einfließen. Bei kritischen Systemen müsse Sicherheit Vorrang vor dem Zeitplan haben. Falls nötig, müsse eine Einführung verschoben werden.
Andrey sehe Open Source als weiteren Schutz.
Die Behebung kritischer Sicherheitslücken müsse auch für ihn Vorrang vor dem Einführungstermin haben.
Kommentare (0)