Der US-Bundesstaat Kalifornien hat Klage gegen das Technologieunternehmen OpenAI eingereicht. Wie Al Jazeera berichtet, wirft die Staatsanwaltschaft dem Unternehmen vor, die Öffentlichkeit gefährdet zu haben, weil es ein Modell künstlicher Intelligenz ohne angemessene Schutzvorkehrungen entwickelt habe. Generalstaatsanwalt Rob Bonta hat die Klage am Montag angekündigt.
Im Mittelpunkt steht ein Vorfall im Juli. Eines der experimentellen Modelle von OpenAI soll Zugang zum Internet erhalten haben. Danach habe es über mehrere Tage eine Cyberattacke auf die KI-Plattform Hugging Face gestartet.
Bonta argumentiert, der Vorfall zeige, dass OpenAI Wachstum über Schutzmechanismen stelle, woraus potenziell gefährliche Fehler entstehen könnten. Der Angriff auf Hugging Face sei das vorhersehbare Ergebnis einer internen Unternehmenskultur, die Wachstum und schnelle Modellentwicklung über Sicherheit und Verantwortlichkeit stelle. Dies sei zudem nur einer von 80 bekannten Vorfällen gewesen, erklärte Bonta in einer Mitteilung.
Die Klage ist nach Angaben der Staatsanwaltschaft die erste eines Bundesstaates als Reaktion auf den Juli-Vorfall. Sie wirft OpenAI vor, gegen kalifornische Verbraucherschutzgesetze verstoßen und durch sein Handeln eine öffentliche Belästigung geschaffen zu haben. Eingereicht wurde die Klage bei einem Landesgericht in San Francisco. Gefordert werden zivilrechtliche Strafen sowie eine einstweilige Verfügung, mit der OpenAI Handlungen untersagt werden sollen, die als unlautere Konkurrenz gelten.
In der Klageschrift heißt es, der Angriff sei angesichts der Entscheidung von OpenAI vorhersehbar gewesen. Das Unternehmen habe Modelle getestet, von denen es wusste, dass sie gefährlich sind, und zwar in einer fehlerhaften, ausnutzbaren Testumgebung ohne ausreichende Aufsicht. Die Kläger werfen Unternehmen wie OpenAI außerdem vor, ihre KI-Tests nicht ausreichend zu sichern und zu überwachen.
Laut der Klage hat OpenAI die Ermittlungen des Generalstaatsanwalts behindert. Das Unternehmen habe sich unter anderem geweigert, detaillierte Informationen über die gesamte Bandbreite der ihm bekannten Vorfälle herauszugeben. Die Klage erhebt in diesem Zusammenhang den Vorwurf, dass Ermittler bei Untersuchungen von Vorfällen wie dem Hugging-Face-Angriff ausgebremst worden seien.
Der Vorfall hat in den USA Sorgen über das rasante Wachstum der KI-Branche und die vergleichsweise geringe staatliche Aufsicht verstärkt. Die Regierung von Präsident Donald Trump lehnt pauschale Regulierungen der Branche weitgehend ab und warnt, solche Regeln könnten das Wachstum ersticken. Im Dezember 2025 erließ Trump eine Verordnung, die den Spielraum einzelner Bundesstaaten für eigene KI-Gesetze einschränken soll. Darin heißt es, US-KI-Unternehmen müssten ohne belastende Regulierung innovieren können. Die Regierung will gemeinsam mit dem Kongress einen möglichst wenig belastenden nationalen Standard schaffen, statt 50 widersprüchlicher Regelungen der Bundesstaaten.
Umfragen zeigen dagegen, dass eine Mehrheit der Amerikaner mehr Aufsicht über die Entwicklung von KI wünscht. Viele befürchten, dass die Technologie wirtschaftliche und gesellschaftliche Umbrüche auslösen könnte. Die Nachrichtenagentur Associated Press und das NORC Center for Public Affairs Research ermittelten im Oktober, dass 64 Prozent der erwachsenen US-Bürger glauben, KI entwickle sich zu schnell. Rund 81 Prozent sagten, die Technologie sollte unter menschlicher Kontrolle bleiben, statt eigenständig zu agieren.
Auch Abgänge prominenter Fachleute haben die Sorgen verstärkt. Jacob Coxon, der im September zurücktrat und zuvor als Forscher beim KI-Unternehmen Anthropic arbeitete, schrieb in einem Beitrag in sozialen Netzwerken, die Firmen rasten auf selbstverbessernde Superintelligenz zu und spielten mit unserem Leben. Er warnte, die Technologie dürfe nicht unterschätzt werden. Bald könnten übermenschliche Systeme entstehen, die alles hacken, jedes Feld über Nacht revolutionieren und echte Macht und Ressourcen an sich ziehen könnten.
OpenAI hat auf den Juli-Vorfall nach eigenen Angaben mit der Ankündigung reagiert, seine Sicherheitsmaßnahmen zu verstärken. Das Unternehmen räumte zugleich ein, dass mehr Transparenz nötig sei. Im September veröffentlichte OpenAI zudem einen Rahmen für das Erfassen, Untersuchen und Offenlegen von Fällen sogenannter Modell-Fehlausrichtung, um Gesetzgeber und Öffentlichkeit besser zu informieren.
Kommentare (0)