Das Unternehmen Anthropic hat im US-Kongress für einen eigenen Gesetzentwurf zur Sicherheit fortgeschrittener KI-Modelle geworben. Vertreter des Unternehmens hätten Abgeordnete am Capitol Hill still und leise auf einen Gesetzentwurf angesprochen, berichtete Politico am Freitag (16. Oktober) unter Berufung auf drei Personen mit Kenntnis der Bemühungen. CNA gibt die Meldung wieder.
Nach dem Bericht soll die Regierung die Veröffentlichung oder Nutzung eines Modells nur dann blockieren dürfen, wenn es ein absehbares, unmittelbares Risiko von mehr als eine Milliarde US-Dollar Schaden oder die Tötung beziehungsweise schwere Verletzung von mehr als 50 Menschen birgt. Dieses Risiko müsse aus der Entwicklung oder Freigabe einer biologischen Waffe, dem Umgehen der Kontrollen durch den Entwickler des Modells oder einem Cyberangriff entstehen, schrieb Politico.
Der Entwurf gebe der Regierung die Möglichkeit, gefährliche Einsätze der leistungsstärksten Modelle zu blockieren oder abzuschrecken. Zudem verpflichte er Entwickler, Grenzmodelle der KI zu testen, über die Ergebnisse transparent zu informieren und sie von unabhängiger Seite prüfen zu lassen.
Unabhängige Prüfer, die sich beim Handelsministerium registrieren müssten, sollen Labore und deren Modelle regelmäßig bewerten. Die Labore dürften diese Prüfer bezahlen, sofern die Zahlung nicht vom Ergebnis der Bewertung abhängt. Stellen die Prüfer ein unmittelbares, aufgezähltes Risiko fest, müssen sie es innerhalb von 72 Stunden nach Abschluss ihrer Bewertung dem Handelsministerium melden.
Das Handelsministerium könnte nach einer Risikofeststellung bei einem Richter beantragen, ein Modell zu stoppen. Die Formulierung untersage jedoch allen anderen Bundesministerien, Behörden und Amtsträgern, Entwicklung, Einsatz oder interne Nutzung auszusetzen. Ein Bundesrichter am Bezirksgericht für den District of Columbia könnte die Aussetzung eines Modells anordnen.
Die KI-Politik der USA unter Präsident Donald Trump stützt sich vor allem auf freiwillige Selbstverpflichtungen der Industrie und auf Verordnungen der Exekutive. Sie soll einen KI-Boom absichern, den Technologieführer als Motor der Wirtschaft des Landes bezeichnen. Er hat bislang kein bundesweites KI-Gesetz verabschiedet und ist bis nach den Zwischenwahlen im kommenden Monat nicht im Sitzungsbetrieb.
Sicherheit ist zuletzt stärker in den Fokus gerückt, nachdem Berichte über Sicherheitsvorfälle mit KI-Agenten bekannt wurden. Dabei handelt es sich um autonome Software, die ohne ständige menschliche Aufsicht arbeitet und sich der Kontrolle ihrer Entwickler entzogen habe.
Anthropic war im Februar vom Pentagon durch die Trump-Regierung ausgeschlossen worden. Im Juni zwang Washington das Unternehmen, seine fortschrittelsten Modelle knapp drei Wochen lang auszusetzen. Anthropic-Chef Dario Amodei hatte im vergangenen Monat die Branche aufgerufen, die Entwicklung zu verlangsamen. Er befürchte, eine Gruppe von KI-Agenten könnte innerhalb von sechs bis zwölf Monaten „das gesamte Internet“ unter ihre Kontrolle bringen. Trump hat die zahlreichen Forderungen nach einer Verlangsamung der Technologie als „negative Kräfte“ abgetan.
Der vorgeschlagene Entwurf würde zudem bestimmte Landesgesetze außer Kraft setzen, etwa solche, die in Kalifornien gelten. Anthropic hatte im Juni geschrieben, ohne ein starkes Bundesgesetz sollten die Bundesstaaten die volle Befugnis zur Gesetzgebung behalten.
Charlie Bullock vom Denkfabrik-Institut Institute for Law & AI lobte den Vorschlag als „ziemlich vernünftig“ und als „mehr, als andere Grenzlabore getan haben“. Auf X erklärte er jedoch, er halte den Entwurf für „schwächer“ als den FRONTIER Act, einen konkurrierenden Gesetzentwurf, der in diesem Sommer im Repräsentantenhaus eingebracht wurde.
Kommentare (0)