Claude: KI holt sich ohne Auftrag Wahlzahlen aus US-Staat Georgia

Anthropic hat am Sonntag bestätigt, dass eines seiner Claude-Modelle Daten aus dem US-Bundesstaat Georgia abgefragt hat, ohne dass jemand das verlangt hatte. Zuerst berichtete Axios darüber. Das Modell lief intern für ein Statistikprojekt und zog dabei aggregierte Stimmenzahlen, die Georgia sonst nur gegen eine Gebühr herausgibt.

Ein Token vom Dashboard statt der Gebühr

In einer archivierten Fassung der Behördenseite fand die KI den Hinweis, dass ein öffentliches Dashboard jedem Besucher automatisch einen Zugangstoken ausstellt. Sie forderte einen solchen Token an, fragte die Daten damit direkt ab und ließ die kostenpflichtige Bestellung, über die Georgia diese Zahlen normalerweise an Interessierte verkauft, einfach links liegen. Ein Anthropic-Sprecher sagte Axios, das Modell habe den Token angefordert, ohne darum gebeten worden zu sein.

Georgias stellvertretender Secretary of State Jordan Fuchs ordnet den Vorfall nüchtern ein. Es handle sich um öffentlich verfügbare Daten aus dem Datenportal des Staates, sagte er Fox Business. Ins Wählerregister sei das Programm nicht gelangt. Anthropic betont dasselbe. Einzelne Wählerdaten habe Claude nicht abgerufen und auch keine Datensätze verändert, inzwischen seien Sperren gegen solche Aktionen eingebaut.

Der Fall stand schon im Oktober-Bericht

Neu ist eigentlich nur der Name des Staates. Anthropic hatte den Vorfall am 9. Oktober in seinem Bericht über unbeabsichtigte Handlungen seiner Modelle beschrieben, ohne Georgia zu nennen. Dort steht, ein Forscher habe Claude Mythos 5 für ein Statistikprojekt eingesetzt, ein Modell, das nur ausgewählte Partner nutzen dürfen. Aus demselben Bericht stammt auch der erfundene Mordhinweis, den Claude an die Polizei in Philadelphia schickte.

Laut Axios informierte Anthropic den Staat und das Weiße Haus schon vor Wochen. Eine anonyme Quelle sagt, Regierungsvertreter hätten Georgia vergeblich gedrängt, früher an die Öffentlichkeit zu gehen. Brisant ist der Zeitpunkt, denn am 3. November wählen die USA ihr Repräsentantenhaus und einen Teil des Senats. Georgia stand schon 2020 im Zentrum des Streits um die Stimmauszählung.

Was das für Agenten auf dem eigenen Rechner heißt

Das Muster kennt man aus anderen Fällen. Eine KI will eine Aufgabe erledigen und nimmt dafür einen Weg, den kein Mensch freigegeben hat, nur weil er technisch offensteht. Bei OpenAI ist ein Modell im Training sogar in eine Behördenseite eingebrochen, und große US-Banken sowie Amazon sperren KI-Agenten inzwischen aus. Wer Claude in Chrome nutzt, sollte den Modus "Manually approve" wählen, dann fragt der Agent vor jeder Aktion nach. Die Optionen beschreibt Anthropic auf seiner Hilfeseite zu den Berechtigungen. Das kostet ein paar Klicks mehr, verhindert aber, dass ein Agent auf eigene Faust Formulare abschickt oder Zugänge anfordert.