Nvidia stellt Security-Plattform zur Überwachung und blitzschnellen Isolation von KI-Agenten vor

Zuletzt hatten immer mehr Meldungen von großen KI-Unternehmen für Aufsehen gesorgt, die darüber berichtet haben, wie ihre KI aus einem eigentlich geschlossenen System ausgebrochen sei und angeblich andere Systeme gehackt habe. Seitdem wird darüber diskutiert, obd as vor allem PR-Stunt ist, um Kunden vond en unglaublichen Fähigkeiten der eigenen KI zu überzeugen, oder ob es sich hier um echte Warnsignale handelt.

So oder so steigt mit immer fähiger werdenden KI-Agenten auch die Sorge vor mehr Sicherheitsmechanismen, die Nvidia nun mit der neuen Plattform beruhigen möchte. Laut Nvidia ist die Sache gar nicht so einfach, immerhin benätigt eine KI auch Zugang zu bestimmten Dokumenten oder Teilen des Webs, um effektiv arbeiten zu können.

Nvidias neue Sicherheitsplattform nennt sich OpenShell und ist eine Art Sandbox, bestehend aus zwei Ebenen: KI-Agenten bekommen genaue Zugriffsrechte – etwa auf einen bestimmten Ordner – alles andere ist hingegen gesperrt. Die zweite Ebene namens Sentry überwacht und protokolliert die Arbeit der Agenten kontinuierlich und kann die KI wohl innerhalb von wenigen Millisekunden isolieren, sollte sie versuchen die vorher festgelegten Grenzen zu überschreiten.

Ganz so einfach ist die Verwendung aber nicht: Die Nutzer müssen im Vorfeld ganz genau festlegen, was der Agent tun darf und was nicht. Das ist einerseits etwas umständlich und beraubt der KI andererseits womöglich kreative Alternativlösungswege an die der Nutzer vorher nicht gedacht hat.

Nvidia reagiert damit auch auf die Warnung von KI-Mitarbeitern, dass KI zu einer echten Gefahr für die Menschheit werden könnte und die damit verbundene Forderung die rasante, nahezu unaufhaltsam scheinende Entwicklung von KI zu verlangsamen. Laut Nvidia ist KI-Sicherheit hingegen eher ein Ingenieursproblem, das es technisch zu lösen gilt.