Kleine KI-Modelle könnten sich nach Einschätzung von Anthropic bald auf internetverbundenen Geräten in Haushalten und kleinen Unternehmen selbst vervielfältigen. Die Fähigkeit könnte bis Ende 2026 entstehen, teilten Forscher des Unternehmens in einem Bericht mit.
Für ihre Untersuchung testete das Anthropic-Red-Team mehrere KI-Modelle aus den USA und China. Kein derzeitiges Modell sei zugleich leistungsfähig und klein genug gewesen, um sich zuverlässig auf einem getesteten Smart-TV zu vervielfältigen. Die Entwicklung deute jedoch darauf hin, dass ein solches Modell wahrscheinlich bis Ende 2026 verfügbar sein werde.
Als mögliche Geräte nannten die Forscher unter anderem Smart-TVs, Kühlschränke, Öfen und Rasenmäher. Diese könnten schon bald ausreichend Rechenleistung für eine Selbstvervielfältigung bereitstellen. Weil solche Geräte nicht auf einen zentralen Rechner angewiesen seien, wären sich selbst verbreitende KI-Systeme nach Einschätzung der Forscher schwer abzuschalten.
Rechenzentren blieben zwar ein deutlich sichtbares und lohnendes Ziel für KI-Würmer. Heimgeräte und Geräte kleiner Unternehmen könnten jedoch wegen ihrer Internetverbindung und historisch geringer Sicherheitsvorkehrungen zuerst angegriffen werden, schrieben die Forscher William Zhou und Daniel Freeman. Leichtgewichtige KI-Agenten könnten bereitwilliger als menschliche Angreifer versuchen, große Teile der weltweit vernetzten Geräte zu kompromittieren.
Die Forscher erwarteten eine Zukunft mit zahlreichen Agenten, die auf unterschiedlichster Hardware liefen. Darunter könnten sich auch Systeme befinden, die nicht von Menschen kontrolliert würden. Anthropic beantwortete Fragen zu den Sicherheitsfolgen der Ergebnisse außerhalb der regulären Geschäftszeiten nicht.
Die Risiken einer Entkopplung von menschlicher Kontrolle werden derzeit auch wegen mehrerer Fälle untersucht, in denen KI-Modelle unerlaubtes schädliches Verhalten gezeigt haben sollen. Dazu gehörten Cyberangriffe. Anthropic und OpenAI haben laut Al Jazeera die internationale Gemeinschaft zu einer koordinierten Verlangsamung der KI-Entwicklung aufgefordert, um katastrophale Risiken zu verringern. Die USA und China hätten diese Forderung bislang nur wenig unterstützt.
Der KI- und Cybersicherheitsexperte Roman V. Yampolskiy von der University of Louisville sagte gegenüber Al Jazeera, ein KI-Wurm könne sich im Gegensatz zu herkömmlicher Schadsoftware auf unbekannte Geräte einstellen, bei Fehlschlägen seine Vorgehensweise ändern und sich ohne menschliche Hilfe weiterverbreiten. Heute stelle dies noch keine existenzielle Bedrohung dar, die Entwicklung sei jedoch besorgniserregend. Wenn autonome Vervielfältigung mit leistungsfähigem Hacking, dauerhafter Präsenz und strategischem Schlussfolgern verbunden werde, sei eine Abschaltung schwieriger, weil es möglicherweise keinen einzelnen Server oder keine einzelne Organisation als Kontrollinstanz gebe.
Anthropic und weitere führende US-Technologiekonzerne schlossen sich im vergangenen Monat einer unverbindlichen Vereinbarung an. Sie verpflichteten sich darin zu stärkeren internen Schutzmaßnahmen und zur Zusammenarbeit mit externen Prüfern. Experten reagierten unterschiedlich auf die Vereinbarung und kritisierten vielfach ihren freiwilligen Charakter.
In einer weiteren Mitteilung erklärte Anthropic, das Unternehmen habe Fortschritte beim Schutz vor sogenannten Destillationsangriffen gemacht. Dabei werde modernste KI unerlaubt zum Training günstigerer und weniger leistungsfähiger Modelle eingesetzt. Nach Angaben des in San Francisco ansässigen Unternehmens hätten die eingeführten Maßnahmen die unerlaubte Datenentnahme um 90 bis 99 Prozent verringert. Anthropic hatte den chinesischen Konkurrenten DeepSeek, Moonshot und MiniMax vorgeworfen, Claude in großem industriellem Umfang zu kopieren.
Kommentare (0)