KI-Roboter können offenbar nicht nichts tun: Selbst ohne Auftrag fangen sie an zu arbeiten

In einer Studie haben Forscher ein bislang wenig beachtetes Sicherheitsproblem bei sogenannten Vision-Language-Action-Modellen (VLA) untersucht. Diese KI-Systeme verbinden Bildverarbeitung, Sprachverständnis und die direkte Steuerung von Robotern.

Untersucht wurden sechs verschiedene Versionen KI-gesteuerter Robotermodelle in einer Robotersimulation. Dabei erhielten die Systeme unterschiedliche Eingaben: sinnvolle Aufträge, unsinnige Anweisungen, nicht ausführbare Befehle sowie teilweise überhaupt keine Anweisung.

Interessant war vor allem das Ergebnis im letzten Fall: Alle sechs Systeme begannen sich auch dann zu bewegen, wenn sie gar keinen Auftrag erhalten hatten. Fünf davon führten dabei sogar häufig eigenständig eine nicht angeforderte Aufgabe aus.

Die Forscher griffen zu diversen Gegenmaßnahmen, um die Roboter dazu zu bringen wirklich still zu stehen und nichts zu tun. Aber eine zusätzliche Textanweisung, bei fehlendem Auftrag stillzustehen, funktionierte bei keinem der sechs Modell-Checkpoints.

Ein nachträgliches Training verhinderte zwar die Ausführung von Aufgaben bei nicht passenden Eingaben, sorgte aber nicht wirklich zuverlässig dafür, dass die Roboter tatsächlich stillstanden. Und eine vorgeschaltete technische Sperre verhinderte unerwünschte Bewegungen bei immerhin fünf von sechs Systemen.

Die Ergebnisse zeigen eine konkrete Schwachstelle in aktuellen Steuerungsmodellen. Allerdings handelte es sich bei der Forschung um Simulationen, die natürlich nicht bedeuten, dass reale Haushaltsroboter einfach so los laufen wenn sie keine Anweisungen erhalten. Dennoch kann diese Art von Schwachstelle relevant für die Entwicklung realer humanoider Roboter sein.