Hochentwickelte Modelle würden dafür fortgeschrittene Mechanismen zur Eindämmung benötigen.
In den vergangenen Monaten hatten Tests mit eigenständigen Hacking-Attacken durch KI-Software die Sorge vor Risiken der Technologie verstärkt. Im bisher aufsehenerregendsten Fall sei Künstliche Intelligenz des ChatGPT-Entwicklers OpenAI aus einer abgesicherten Testumgebung ausgebrochen und habe sich ungeplant in Computer der KI-Firma Hugging Face gehackt.
Nadella forderte außerdem, dass Menschen sämtliche Aktionen einer Künstlichen Intelligenz nachvollziehen können müssten. Ein System, das sich nicht überwachen lasse, könne man nicht vertrauen, schrieb er. Kein KI-Modell dürfe zudem die Kontrolle über die Daten haben, anhand derer Menschen sein Verhalten bewerteten. Aus Sicherheitsgründen müsse man bei jedem Modell von Beginn an annehmen, dass es kompromittiert sei, und entsprechende Eindämmungsmechanismen einrichten.
Als Unterschied zu bisher eingesetzter Software nannte Nadella, dass sich Verhalten und Ergebnisse heutiger Künstlicher Intelligenz nicht mehr eindeutig bestimmten Eingaben, Trainingsdaten oder Konfigurationen zuordnen ließen. Gleichzeitig würden diese komplexen Systeme breit eingeführt und erhielten Zugriff auf besonders sensible Daten. Microsoft war als früher Geldgeber von OpenAI in das KI-Geschäft eingestiegen und forscht inzwischen auch an eigenen Modellen.
Nadella verwendete in seinem Beitrag durchgehend den Begriff „Superintelligenz“. US-Präsident Donald Trump will diese Bezeichnung anstelle von Künstlicher Intelligenz durchsetzen. Vor wenigen Tagen habe Trump angekündigt, das Weiße Haus werde jeden, der weiterhin Künstliche Intelligenz sage, als Feind betrachten.
Kommentare (0)