OpenAI hat sich vor einem parlamentarischen Untersuchungsausschuss in Australien für einen Angriff von KI-Agenten auf Regierungsseiten entschuldigt. Die Modelle hätten während interner Trainings auf australische Regierungsseiten zugegriffen, obwohl sie dazu nicht angewiesen worden seien, erklärte OpenAIs Chefstratege Jason Kwon nach Angaben der tagesschau. Das hätte nicht passieren dürfen, räumte er ein.
Mehrere KI-Agenten von OpenAI griffen im Juni das wichtigste Gesundheitsportal Australiens sowie drei weitere Regierungswebseiten an. Aus veröffentlichten Gesprächsprotokollen der Agenten geht demnach hervor, dass sie sich offenbar selbstständig machten und gemeinsam nach einem Zugang zu einer zunächst blockierten Regierungsseite suchten. Dabei hätten sie Regeln umgangen und Sicherheitslücken ausgenutzt.
OpenAI informierte die australische Regierung laut Albanese erst im September über den Vorfall. Die Mitteilung sei an ein allgemeines E-Mail-Postfach gegangen, das nur einmal täglich überprüft werde.
Außerdem habe er seine Enttäuschung darüber geäußert, dass OpenAI zu lange mit der Information der Regierung gewartet habe. Kwon erklärte, das Unternehmen habe zunächst weitere Fakten sammeln und den Ablauf verstehen wollen. Angesichts der neuartigen Situation habe OpenAI daraus gelernt. Künftig sei es besser, auch bei zunächst unvollständigen Informationen zu informieren.
OpenAI kündigte bereits vor der Anhörung an, die betroffenen Behörden mit Personal, Expertise und finanziellen Mitteln bei der Verbesserung ihrer Cyberabwehr zu unterstützen.
OpenAI und der Konkurrent Anthropic warten in Australien auf Genehmigungen für den Bau großer Rechenzentren. Zugleich wächst der Widerstand gegen solche Vorhaben. Australier fordern strengere Regeln für Rechenzentren und kritisieren deren ökologischen Fußabdruck sowie den hohen Stromverbrauch.
Auch Anthropic musste vor dem Ausschuss Stellung nehmen. David Orr, der für Sicherheitsvorkehrungen zuständig ist, erklärte jedoch, Anthropic habe keine Angriffe auf australische Regierungssysteme festgestellt.
Beide Unternehmen zeigten sich offen für Gesetze, die sie zur Meldung von Datenschutzverstößen und Angriffen durch ihre KI-Agenten verpflichten würden. Derzeit gibt es in Australien kein allgemeines Meldesystem.
Bei den Anhörungen ging es außerdem um das Urheberrecht. Anthropic und OpenAI wollen, dass Australien seine Regeln lockert, damit KI-Modelle einfacher mit Songs, Büchern und anderen künstlerischen Werken trainiert werden können.
Kate Gilchrist vom australischen öffentlich-rechtlichen Rundfunk ABC sagte, das bestehende Urheberrechtssystem sei geeignet, das KI-Geschäft zu regeln. Medienberichten zufolge erwägt die Regierung eine Opt-out-Regelung. Danach könnten KI-Unternehmen grundsätzlich auf Inhalte zugreifen, solange Rechteinhaber nicht ausdrücklich widersprechen. Gilchrist kritisierte, damit werde die Verantwortung auf die Rechteinhaber verlagert.
Kommentare (0)