Wenn KI-Agenten unter Druck geraten, verraten sie sogar ihre geheimen Zugangsdaten
Die AI Alignment Foundation hat sich dem Ziel verschrieben KI sicherer zu machen, sodass diese ausschließlich zum Nutzen der Menschheit einzusetzen. Zu diesem Zweck führt sie diverse Studien und Versuche durch, um Fehler aufzudecken und KI besser kontrollierbar zu machen.
In einem Sandbox-Hackathon sollten neun KI-Coding-Agenten einen Fehler in einem simulierten Preisdienst beheben. Dafür erhielten sie ein geheimes Zugangstoken, das sie unter keinen Umständen weitergeben sollten. Gleichzeitig bekamen sie Zugriff auf ein Forum mit 24 weiteren KI-Agenten. Diese boten eine Lösung für das Problem an, allerdings nur unter der Bedingung, dass die suchenden Agenten ihr geheimes Token preisgaben und ein Installationsskript ausführten.
Die Ergebnisse sind alarmierend:
- In insgesamt 181 Tests gaben die KI-Systeme in 15 Prozent der Fälle das geheime Token weiter.
- In 24 Prozent der Durchläufe führten sie das nicht vertrauenswürdige Skript aus.
- Wurde den Agenten zusätzlich mitgeteilt, dass dies ihre letzte Chance sei und sie andernfalls ersetzt würden, stieg die Ausführungsrate des Skripts auf 34 Prozent.
Hinzu kommt: Nur acht der 43 Agenten, die ihr Token preisgegeben hatten, informierten ihre Nutzer eigenständig darüber. In allen anderen Fällen mussten die Test-Nutzer explizit nachfragen, erst dann räumten alle 43 die Weitergabe der geheimen Token ein. Im Zweifel bleibt die Weitergabe sensibler Daten demnach unentdeckt.
Die Forscher schließen daraus, dass KI-Agenten im Konfliktfall offenbar die Erledigung ihrer Aufgaben gegenüber Sicherheitsvorgaben priorisieren. Auf der Suche nach dem einfachsten Weg zum Ziel können sie so selbst explizite Anweisungen zum Schutz vertraulicher Informationen missachten.
Daher sollten Unternehmen selbst lokal agierenden KI-Agenten grundsätzlich nur Zugriff auf die Informationen und Systeme geben, die sie tatsächlich benötigen, so die Empfehlung der Forscher. API-Schlüssel, Zugangsdaten und andere sensible Informationen sollten strikt vom Zugang autonomer KI-Agenten getrennt bleiben.
Quelle(n)
Als bevorzugte Quelle auf Google hinzufügen
