Führende Forscher aus dem Bereich der künstlichen Intelligenz warnen vor einer möglichen „KI-Explosion“ und damit verbundenen extremen Risiken. Nach ihrer Einschätzung könnte die weitere Entwicklung durch zunehmende Automatisierung schon bald deutlich schneller voranschreiten. Die Politik müsse deshalb dringend handeln.
Zu den Wissenschaftlern, die diese Warnung unterstützen, gehören auch Geoffrey Hinton und Yoshua Bengio. Beide gelten als prägende Forscher der modernen künstlichen Intelligenz und werden häufig als „KI-Väter“ bezeichnet. Ihre Beteiligung verleiht der Debatte über die möglichen Folgen einer stark beschleunigten Entwicklung zusätzliches Gewicht.
Im Mittelpunkt der Warnung steht die Annahme, dass Systeme der künstlichen Intelligenz künftig einen wachsenden Teil ihrer eigenen Weiterentwicklung automatisieren könnten. Dadurch könnte sich das Tempo des technologischen Fortschritts erheblich erhöhen. Welche konkreten Szenarien die Forscher dabei erwarten und wie wahrscheinlich sie diese einschätzen, geht aus den vorliegenden Informationen nicht näher hervor.
Die Warnung richtet sich zugleich an die Politik. Nach Darstellung der Forscher besteht Handlungsbedarf, bevor eine solche Beschleunigung einsetzt. Genauere Angaben dazu, welche gesetzlichen oder politischen Maßnahmen sie vorschlagen, liegen bislang nicht vor. Ebenso sind keine näheren Einzelheiten zu einer gemeinsamen Erklärung, ihrem Entstehungszeitpunkt oder dem Kreis der beteiligten Wissenschaftler bekannt.
Die Debatte berührt damit zentrale Fragen der Technologiepolitik: Wie lässt sich die Entwicklung leistungsfähiger KI-Systeme begleiten, wenn sich deren Fortschritt weiter beschleunigt? Und welche Vorkehrungen wären angesichts möglicher extremer Risiken erforderlich? Die vorliegende Meldung liefert dazu noch keine konkreten Antworten, macht aber deutlich, dass führende Stimmen aus der Forschung die politische Reaktion als dringend ansehen.
Über die Warnung berichtete zuerst DER STANDARD.
Kurz zusammengefasst
- KI-Forscher warnen vor einer möglichen „KI-Explosion“ mit extremen Risiken durch beschleunigte Entwicklung
- Geoffrey Hinton und Yoshua Bengio unterstützen die Warnung vor einer automatisierten Weiterentwicklung von KI
- Die Politik müsse dringend handeln, konkrete gesetzliche Vorschläge der Forscher liegen aber noch nicht vor
Kommentare (0)