Cybersecurity Chef der USA lädt vertrauliche Dokumente zu ChatGPT hoch

Ausgerechnet der amtierende Direktor der CISA, der wichtigsten US-Behörde für Cyberabwehr, hat für einen Sicherheitsvorfall gesorgt. Madhu Gottumukkala lud im vergangenen Sommer sensible Regierungsdokumente in eine öffentliche Version von ChatGPT hoch. Dieser Vorgang löste laut Informationen von Politico, die sich auf vier DHS-Beamte stützen, mehrere automatisierte Sicherheitswarnungen aus. Diese Sensoren sind eigentlich dafür konzipiert, den Diebstahl oder die unbeabsichtigte Offenlegung von Regierungsmaterial aus Bundesnetzwerken zu verhindern. Allein in der ersten Augustwoche sollen die Systeme mehrfach Alarm geschlagen haben.

Gottumukkala nutzte für den Zugriff auf den KI-Chatbot eine spezielle Ausnahmegenehmigung, die er kurz nach seinem Amtsantritt im Mai beim Chief Information Officer der CISA beantragt hatte. Für reguläre Mitarbeiter des Heimatschutzministeriums war die App zu diesem Zeitpunkt gesperrt. Bei den hochgeladenen Dateien handelte es sich zwar nicht um klassifizierte Geheimdokumente, jedoch um Vertragsunterlagen mit dem Vermerk „For Official Use Only“. Diese Kennzeichnung markiert sensible Informationen, die nicht für die Öffentlichkeit bestimmt sind.

Brisant ist der Vorfall hauptsächlich wegen der technischen Natur des genutzten Tools. Eingaben in die öffentliche Version von ChatGPT werden an den Entwickler OpenAI übermittelt und können theoretisch genutzt werden, um das Modell weiter zu trainieren oder Anfragen anderer Nutzer zu beantworten. Im Gegensatz dazu sind offiziell genehmigte KI-Tools des Ministeriums, wie etwa der interne „DHSChat“, so konfiguriert, dass keine Daten oder Suchanfragen die geschützten Bundesnetzwerke verlassen. OpenAI gibt an, dass der Dienst mittlerweile über 700 Millionen aktive Nutzer hat, was das potenzielle Expositionsrisiko verdeutlicht.

Die CISA versucht unterdessen, die Wogen zu glätten. Sprecherin Marci McCarthy erklärte, die Nutzung sei genehmigt, kurzzeitig und begrenzt gewesen und habe unter Sicherheitsvorkehrungen stattgefunden. Zudem widersprach sie der Darstellung des Zeitplans und gab an, der Direktor habe das Tool zuletzt Mitte Juli genutzt. Dies steht im Widerspruch zu den Aussagen der Beamten, wonach die Sicherheitssensoren die Uploads noch Anfang August registrierten. Eine interne Untersuchung soll nun klären, ob durch den Vorfall ein tatsächlicher Schaden entstanden ist. Der Vorfall reiht sich in eine Serie von Kontroversen um Gottumukkala ein, der Berichten zufolge zuvor bereits bei einem Lügendetektortest zur Spionageabwehr durchgefallen war.