Nvidia hat zwei neue Werkzeuge zur Absicherung autonomer KI-Agenten vorgestellt. OpenShell und Sentry sollen dazu beitragen, solche Systeme vor Hackerangriffen, Sicherheitsverletzungen und Versuchen zu schützen, bestehende Kontrollmechanismen zu umgehen.
Mit dem Vorstoß reagiert der US-Konzern auf die wachsende Bedeutung autonom arbeitender KI-Agenten. Diese Systeme können Aufgaben eigenständig ausführen. Je leistungsfähiger sie werden, desto wichtiger wird nach Darstellung der Meldung der Schutz vor unbefugten Eingriffen und vor einer Umgehung ihrer vorgesehenen Grenzen.
OpenShell und Sentry werden von Nvidia als KI-Sicherheitswerkzeuge bezeichnet. Welche technischen Verfahren dabei jeweils zum Einsatz kommen, welche Plattformen unterstützt werden und wie die beiden Lösungen konkret eingesetzt werden sollen, geht aus den vorliegenden Informationen nicht hervor. Auch Angaben zu ihrer Verfügbarkeit, möglichen Zielgruppen oder Lizenzmodellen liegen bislang nicht vor.
Nvidia nannte im Zusammenhang mit der Vorstellung den Schutz autonomer KI-Agenten vor mehreren Risikobereichen. Dazu zählen Hacks, allgemeine Sicherheitsverletzungen sowie gezielte Versuche, Kontrollvorgaben der Systeme zu umgehen. Weitere Einzelheiten zu bereits verhinderten Angriffen oder praktischen Einsätzen der Werkzeuge wurden nicht mitgeteilt.
Die Ankündigung stammt aus den USA. Ein genauer Ort, an dem Nvidia die Werkzeuge vorgestellt oder auf den Markt gebracht hat, ist nicht angegeben. Ebenso fehlen Informationen zu einem konkreten Zeitplan für die Einführung und zu möglichen Partnern.
Damit beschränkt sich die bislang bekannte Ankündigung auf die Vorstellung der beiden Sicherheitswerkzeuge und ihren vorgesehenen Zweck. Nvidia macht den Schutz autonomer KI-Agenten damit zum Gegenstand eines eigenen technischen Angebots. Das berichtete zuerst Hindustan Times World.
Kurz zusammengefasst
- Nvidia hat OpenShell und Sentry zur Absicherung autonomer KI-Agenten vorgestellt
- Die Werkzeuge sollen vor Hackerangriffen, Sicherheitsverletzungen und der Umgehung von Kontrollmechanismen schützen
- Technische Details, unterstützte Plattformen, Verfügbarkeit und Lizenzmodelle sind bislang unbekannt
Kommentare (0)