Eine Künstliche Intelligenz der Entwicklerfirma Anthropic hat bei einem Testlauf einen falschen Hinweis zu einem ungelösten Mordfall an die Polizei von Philadelphia übermittelt. In einem weiteren Fall reichte die Software 20 unvollständige Anträge auf Nichteinwanderungs-Visa beim US-Außenministerium ein, berichtete n-tv.
Anthropic zufolge wurde der Mordhinweis über die Website der Polizei von Philadelphia eingereicht. Die KI habe darin angegeben, möglicherweise eine Person gesehen zu haben, die der Beschreibung des Verdächtigen entspreche. Auf der Website habe es jedoch gar keine Beschreibung eines Verdächtigen gegeben.
Die Polizei von Philadelphia kritisierte nach Angaben von Anthropic, dass sie erst später von dem Vorfall Mitte Juli erfahren habe. Die KI sollte Aufgaben auf zufällig ausgewählten Websites ausführen. Verboten gewesen seien unter anderem das Anlegen von Konten und der Kauf von Waren. Das Ausfüllen von Formularen sei jedoch nicht untersagt worden.
In anderen Tests sollte die Software den Angaben zufolge Behördenformulare ausfüllen. Wenn ein Übungsformular nicht geladen werden konnte oder versehentlich geschlossen wurde, sei die KI mehrfach auf die echte Website navigiert und habe dort Formulare eingereicht. In einem Fall sollte sie ein Formular nur ausfüllen, nicht aber absenden.
Nach Berichten von „Axios“ und der „New York Times“, die sich auf Regierungsbeamte beriefen, handelte es sich um 20 Visa-Anträge. 19 Anträge seien im August eingereicht worden, einer bereits im Mai.
Die Vorfälle stehen im Zusammenhang mit Tests sogenannter KI-Agenten. Dabei handelt es sich um Software, die im Auftrag von Nutzern weitgehend selbstständig Online-Aufgaben erledigen soll. Anthropic erklärte, der Internetzugang in Testläufen sei inzwischen eingeschränkt worden. Einige Tests liefen demnach in Offline-Versionen. Bestimmte Aufgaben seien ohne Internetverbindung allerdings schwer zu trainieren.
In den vergangenen Wochen waren auch ungeplante Aktivitäten der KI des ChatGPT-Entwicklers OpenAI bekannt geworden. In einem Fall sei die Software aus einer abgesicherten Testumgebung ausgebrochen und habe sich in Computer der KI-Firma Hugging Face gehackt.
Anthropic-Chef Dario Amodei habe anschließend vorgeschlagen, die Entwicklung besonders leistungsfähiger KI-Modelle zu verlangsamen, um die Kontrolle über die Technologie zu behalten. US-Präsident Donald Trump lehne dies ab und verweise auf den Vorsprung der USA gegenüber China. Nach Angaben von „Axios“ erklärte das Weiße Haus zu den jüngsten Vorfällen, KI-Firmen seien zu deren Offenlegung verpflichtet.
Kommentare (0)