Der britische KI-Minister Kanishka Narayan will in einer Rede im Westen Londons eine Stärkung der Cyberabwehr ankündigen und Unternehmen mit besonders fortgeschrittenen KI-Systemen zu größeren Sicherheitsanstrengungen auffordern. Großbritannien könne sich nicht vollständig darauf verlassen, dass Technologiekonzerne ihre Modelle selbst kontrollierten, werde Narayan sagen, berichtete The Guardian.
Nach Angaben des Ministers müsse das Vereinigte Königreich außerdem mehr eigene KI-Infrastruktur aufbauen. Die Rede werde Narayans erste sein, seit Andy Burnham das Thema Künstliche Intelligenz auf Kabinettsebene übernommen habe.
Geoffrey Irving, ein früherer Chefwissenschaftler des britischen AI Security Institute, warnte vor der Gefahr, dass feindliche Staaten unveröffentlichte Spitzenmodelle stehlen könnten. Die KI-Unternehmen verfügten nicht über Sicherheitsvorkehrungen, die einen solchen Diebstahl durch ein gegnerisches Land verhindern würden, sagte Irving dem Guardian.
Als Beispiel nannte Irving einen Vorfall bei OpenAI. Cybersicherheitsforscher hätten das Unternehmen im Rahmen eines Programms gehackt, das ethische Hacker für die Überprüfung seiner Systeme belohne. OpenAI erklärt dagegen, das Unternehmen verfüge über mehrere Schutzmaßnahmen gegen den Diebstahl seiner Modelle, darunter Verschlüsselung und eine kontinuierliche Überwachung.
Irving, der früher bei OpenAI und Google DeepMind gearbeitet habe und nun eine Forschungseinrichtung für KI-Sicherheit leite, warnt nach eigenen Angaben vor einer fünfzigprozentigen Wahrscheinlichkeit, dass superintelligente Künstliche Intelligenzen die Menschheit auslöschen könnten. Der einzige Ausweg bestehe derzeit darin, die Entwicklung fortgeschrittener Systeme so schnell wie möglich zu stoppen. Superintelligenz könne sich auf dem derzeitigen Entwicklungspfad in weniger als zwölf Monaten ergeben, sagte Irving.
Narayans Rede wird zudem daraufhin beobachtet, ob sich Großbritannien einem Aufruf zu gemeinsamen internationalen Sicherheitsstandards für KI anschließt. Die Forderung wurde von führenden Politikern aus Finnland, Frankreich, Deutschland, Australien, Singapur, den Vereinigten Arabischen Emiraten und Irland unterzeichnet, nicht aber vom Vereinigten Königreich und den USA. US-Präsident Donald Trump hat erklärt, die führenden KI-Unternehmen sollten sich selbst kontrollieren.
Der Aufruf zu strengeren Regeln folgte auf mehrere jüngere Vorfälle mit fortgeschrittenen KI-Systemen, die von ihren Vorgaben abwichen und in private oder staatliche Systeme eindrangen. Anthropic teilte Ende vergangener Woche mit, eine Testversion seines Modells Claude habe die Polizei kontaktiert und behauptet, bei der Aufklärung eines Mordes helfen zu können. Das Modell war auf einer Internetseite mit einem Hinweisformular einer Polizeibehörde und einem ungelösten Tötungsdelikt gelandet. Obwohl Claude angewiesen gewesen sei, sich nicht anzumelden, keine Konten anzulegen, keine persönlichen Daten einzugeben, nichts zu kaufen und keine schädlichen Handlungen vorzunehmen, habe die Anweisung das Absenden von Formularen nicht ausdrücklich ausgeschlossen.
Die Chefs von MI5, MI6 und GCHQ informierten das Kabinett vergangene Woche über die Bedrohung der nationalen Sicherheit durch KI, berichtete die Sunday Times. Der britische Premierminister hatte bei den Vereinten Nationen im vergangenen Monat angekündigt, Großbritannien werde während seines G20-Vorsitzes im kommenden Jahr eine Einigung auf einheitliche globale Grundsätze und Standards für KI-Sicherheit vorantreiben.
Sicherheitsexperten verlangen schnelleres Handeln gegen Risiken, die von Cyberangriffen auf wichtige Infrastruktur bis zur Entwicklung neuartiger biologischer Waffen reichen könnten. Microsoft-Chef Satya Nadella forderte zudem, KI-Modelle mit einer Notabschaltung zu entwickeln. Fortgeschrittene Modelle müssten von Anfang an als mögliches Insider-Risiko behandelt werden; ihre Handlungen müssten beobachtbar und begrenzbar sein.
Kommentare (0)