KI-Agenten: US-Banken und Amazon sperren Muse und OpenAI aus

Wer seinen KI-Agenten in den USA zur Bank schickt, steht immer öfter vor verschlossener Tür. Rick Wurster, Chef des Brokers Charles Schwab, sagte am 16. Oktober bei Bloomberg TV, sein Haus blocke jede Woche Dutzende Versuche großer KI-Agenten, auf Kundengeld zuzugreifen. Darüber bekommt er einen wöchentlichen Bericht. Namentlich nannte er Muse, den persönlichen Agenten von Meta, der Einkäufe erledigt, Formulare ausfüllt und Reisen bucht.

Schwab und JPMorgan ziehen die Grenze beim Geld

Ganz aussperren will Schwab fremde KI allerdings nicht. Externe Sprachmodelle sollen über eigene MCP-Server Kontostände und Research abrufen können, Geld bewegen dürfen sie dort nicht. Für alles andere verweist der Broker auf den hauseigenen Assistenten Charley. Wurster begründete die Sperre mit der ungeklärten Haftung. Weder die Bank noch der Kunde könne den fremden Agenten kontrollieren, und wenn etwas schiefgehe, sei offen, wer dafür geradesteht.

JPMorgan-Chef Jamie Dimon hatte schon am 13. Oktober in der Telefonkonferenz zu den Quartalszahlen angekündigt, die Bank lasse nicht einfach jeden fremden Agenten ins Haus. Man wolle keine „rogue agents“, also Agenten, die aus dem Ruder laufen. Laut einem Sprecher weist JPMorgan jeden Agenten ab, der sich mit den Bankzugangsdaten eines Kunden anmelden will. Erlaubt bleibt der Datenaustausch über Open-Banking-Anbieter, den Kunden selbst freigeben. Dimon sprach außerdem von einer Verschiebung der Haftung. Wer einem fremden Agenten Zugriff gibt, solle das Risiko kennen.

Amazon, Delta und Yelp machen ebenfalls dicht

Die Banken stehen damit nicht allein. The Verge zählte am 17. Oktober weitere Dienste auf, die Agenten aussperren. Delta lässt keine Flüge mehr per Agent buchen, Yelp öffnet sich nur für Agenten, deren Anbieter für die Daten zahlt. Amazon hatte Muse schon im September vorgeworfen, gegen die Regeln der Seite zu verstoßen. Laut Nutzerberichten kommen auch Grok von xAI und Dots, die neuen Dauer-Agenten von OpenAI, bei Amazon nicht weiter. Meta hält dagegen, wer einen persönlichen Agenten abweise, weise auch den Kunden dahinter ab, und setzt auf Partner wie Walmart, Best Buy und Sephora.

Auch in Deutschland gelten Regeln für Agenten

Muse selbst ist in Deutschland bislang nicht verfügbar. Agenten wie ChatGPT im Cloud-Browser oder Claude in Chrome lassen sich hierzulande aber nutzen, und für sie gibt es bereits Regeln. Amazon.de hat in seinen Allgemeinen Geschäftsbedingungen einen eigenen Abschnitt für Agenten, der greift, sobald du einen Agenten auf Amazon zugreifen lässt. Danach muss sich ein Agent in jeder Anfrage mit Namen als Agent ausweisen. Menschliches Tippverhalten nachahmen oder Captchas lösen darf er nicht. Amazon behält sich vor, Agenten nach eigenem Ermessen auszubremsen.

Beim Onlinebanking wird es ernster. Die Sonderbedingungen für das Onlinebanking, wie sie etwa Volks- und Raiffeisenbanken verwenden, verpflichten dich, PIN und andere Sicherheitsmerkmale geheim zu halten. Ausgenommen sind nur Zahlungsauslöse- und Kontoinformationsdienste, also zugelassene Finanzdienste nach EU-Recht. Ein KI-Agent, dem du dein Passwort gibst, fällt nicht unter diese Ausnahme. Kommt es danach zum Missbrauch, kann die Bank grobe Fahrlässigkeit annehmen. Den Schaden trägst du laut den Bedingungen dann in vollem Umfang.

So behältst du die Kontrolle

Anthropic rät in seiner Hilfe zu Claude in Chrome davon ab, mit dem Agenten Finanzkonten oder Geldanlagen zu verwalten, Aktienhandel ist dort untersagt. Vor dem Aufruf von Finanzseiten fragt Claude ohnehin nach. Im Modus „Manually approve“ prüfst du jeden Schritt selbst. Anthropic empfiehlt außerdem ein eigenes Browserprofil ohne Zugang zu sensiblen Konten. Die Freigaben im Cloud-Browser von ChatGPT haben wir in der Meldung zu OpenAIs Agentenpannen beschrieben. Bankzugangsdaten gehören in keinen Agenten. Wie schnell ein Agent mit Zugriff zum Risiko wird, zeigte schon der Fall, in dem eine präparierte Mail KI-Browser kapern konnte.