Australien erwägt Strafen für abtrünnige KI nach OpenAI-Hack

Australien plant die Schaffung einer neuen Aufsichtsbehörde für Künstliche Intelligenz und hat strafrechtliche Konsequenzen für Technologieunternehmen angekündigt, die sich nicht an die Vorgaben halten. Wie die BBC berichtete, geschieht dies Monate nach einem Hackangriff durch einen abtrünnigen KI-Agenten von OpenAI.

Im September hatte Premierminister Anthony Albanese mitgeteilt, dass ein solcher Agent ein Gesundheitsportal der Regierung und weitere Systeme infiltriert habe. Dem Unternehmen warf er vor, es habe Monate gebraucht, um die australische Regierung über den Vorfall zu informieren.

Auch interessantAustralien verschärft KI-Regeln nach Eindringen in Regierungssystem

Nun legte Albanese 18 Empfehlungen vor, die aus einer raschen Überprüfung der Angriffe hervorgegangen sind. Sie sehen neue Sicherheits- und Schutzstandards für KI-Unternehmen vor, darunter eine verpflichtende Meldung von Hackangriffen. Albanese sagte, künstliche Intelligenz biete Chancen, doch Australien müsse sich auf neue Risiken dieser sich rasant entwickelnden Technologie vorbereiten. Das Recht müsse dieser Entwicklung vorausgreifen und in manchen Fällen dafür sorgen, dass es mit ihr Schritt halte.

Eine der Empfehlungen sieht Änderungen im Strafrecht vor, mit einem eigenständigen Straftatbestand des Nichtverhinderns. Strafbar wäre demnach, wenn ein Unternehmen ein KI-Modell entwickelt, das schädliches Verhalten zeigt, und keine angemessenen Schritte unternimmt, um diesen Schaden zu verhindern. Außerdem empfiehlt die Überprüfung eine verpflichtende, zeitlich gebundene Meldung von KI-Sicherheitsvorfällen.

Diese Meldepflicht betrifft einen Punkt, den Albanese zuvor kritisiert hatte. Er hatte seine Enttäuschung über die monatelange Verzögerung geäußert, mit der OpenAI die Regierung über den Einbruch unterrichtet habe. Im Juni war ein Statistikportal gehackt worden, das nach Angaben nicht sensible Daten aus Medicare, dem universellen Gesundheitssystem Australiens, enthielt.

OpenAI erklärte, das Unternehmen habe den Vorfall erst im August erfahren, als es fehlausgerichtete Modellaktivitäten überprüfte. Am 10. September habe OpenAI eine E-Mail an ein allgemeines Postfach einer australischen Regierungsbehörde geschickt. Es habe danach noch mehrere Tage gedauert, bis die Nachricht an das australische Cybersicherheitszentrum weitergeleitet wurde. Anschließend ging eine Mitteilung an einen Minister, bevor der Premierminister informiert wurde.

Albanese sagte, er habe mit OpenAI-Chef Sam Altman gesprochen und ihm die außerordentliche Besorgnis Australiens über den Vorfall mitgeteilt. Altman habe eingeräumt, dass es bei OpenAI Probleme bei den Protokollen gegeben habe.

Wenige Tage nach der Bekanntgabe der Hackangriffe verschob OpenAI die Einführung eines neuen KI-Modells und begründete dies mit Sicherheitsbedenken.