Australien wird KI-Unternehmen verpflichten, unverzüglich zu melden, wenn ihre Modelle außer Kontrolle geraten. Außerdem sollen die Firmen ihre Modelle zur Bewertung öffnen, wie die Regierung mitteilte. Darüber berichtete Al Jazeera English.
Premierminister Anthony Albanese erklärte am Dienstag, die Regierung habe alle Empfehlungen einer Schnellprüfung zu dem Vorfall angenommen. Dazu gehören eine verpflichtende Meldepflicht für KI-Firmen bei fehlausgerichtetem Verhalten oder Cyberzwischenfällen sowie die Prüfung einer Reform des Strafrechts bei schwerem Fehlverhalten. Albanese sagte, Australien sei in diesem Bereich der Vorreiter. Man wolle sicherstellen, dass die Arbeit daran weitergehe, damit die möglichen Vorteile von KI genutzt werden können.
Die Entscheidung folgt auf einen Vorfall im Juni. Mit OpenAI betriebene Modelle sollen in ein Gesundheitsdatensystem der australischen Regierung eingedrungen sein. Sie hätten die digitalen Schutzmechanismen überwunden und ohne Berechtigung auf Dateien zugegriffen.
Führende KI-Unternehmen hatten zuletzt davor gewarnt, dass Menschen die Kontrolle über ihre Systeme verlieren könnten. Sie fordern, die Entwicklung von KI so weit zu verlangsamen, dass sie sicher reguliert werden kann. Ein Sicherheitsforscher des Unternehmens Anthropic sei früher in diesem Jahr so weit gegangen zu sagen, er halte es für mehr als zehn Prozent wahrscheinlich, dass KI innerhalb eines Jahrzehnts die gesamte Menschheit töten könnte.
Der neue australische KI-Regulierer soll Sicherheitskontrollen während der Entwicklung und des Einsatzes von KI-Systemen überwachen, ernsthafte Risiken erkennen und steuern sowie unabhängige Bewertungen von KI-Modellen durchführen. Die KI-Standards sehen zudem eine rasche Benachrichtigung der Regierung bei Vorfällen vor, etwa bei fehlausgerichtetem Verhalten, das den Absichten der Entwickler widerspricht. Regierungsdokumente definieren Frontier-KI als die ausgereiftesten Modelle an der Spitze des aktuellen technologischen Könnens.
Albanese habe dem OpenAI-Chef Sam Altman mitgeteilt, dass das US-Unternehmen zu lange gebraucht habe, um die Regierung über den Vorfall zu informieren. OpenAI habe sich für den Einbruch und die langsame Reaktion entschuldigt. Eine Regierungsuntersuchung zum Juni-Vorfall hatte mehrere Empfehlungen ausgesprochen, darunter, dass die Regierung eine Änderung des Gesetzes prüfen solle.
Der geplante Regulierer würde auf die Ernennung eines eSafety-Commissioners im Jahr 2015 folgen. Die Behörde beschreibt sich selbst als weltweit erste Regierungsstelle, die sich dem Schutz von Menschen im Internet widmet. Seit dem vergangenen Dezember setzt der Commissioner ein weltweit erstes Verbot durch, nach dem australische Kinder unter 16 Jahren keine Konten auf beliebten Social-Media-Plattformen besitzen dürfen.
Kommentare (0)