Anthropics KI-Sicherheitsprojekt für 100 Millionen Dollar: Apple und Microsoft sind dabei

Anthropics Project Glasswing ist eine neue Initiative im Bereich Cybersicherheit, die darauf abzielt, Schwachstellen in der globalen Software-Infrastruktur aufzuspüren und zu beheben. An dem Programm beteiligen sich große Akteure wie Amazon Web Services, Apple, Broadcom, Cisco, Google, Microsoft, Nvidia und die Linux Foundation. Diese Partner sollen ein neues Frontier-Modell nutzen, um eigene Systeme und Open-Source-Software zu prüfen und abzusichern.

Das Projekt basiert auf Claude Mythos Preview, einem spezialisierten Modell, dessen Programmierfähigkeiten laut Anthropic ein Niveau erreicht haben, das die Fähigkeiten der meisten Menschen beim Aufspüren von Software-Exploits übertreffen könnte. In ersten Tests soll das Modell laut Anthropic eigenständig Tausende schwerwiegende Schwachstellen in großen Betriebssystemen und Webbrowsern entdeckt haben. Dazu gehörten ein 27 Jahre alter Fehler in OpenBSD und eine 16 Jahre alte Schwachstelle in FFmpeg, die Millionen früherer automatisierter Tests überstanden hatte.

Anthropic stellt den Projektteilnehmern Modellguthaben im Wert von 100 Millionen Dollar zur Verfügung. Darüber hinaus spendet das Unternehmen 4 Millionen Dollar an Open-Source-Organisationen, davon 2,5 Millionen Dollar an Alpha-Omega und OpenSSF sowie 1,5 Millionen Dollar an die Apache Software Foundation. Claude Mythos Preview soll jedoch nicht allgemein für die Öffentlichkeit verfügbar gemacht werden. Stattdessen wird das Modell ausgewählten, geprüften Organisationen über die Claude API, Amazon Bedrock, Google Clouds Vertex AI und Microsoft Foundry zugänglich gemacht. Für diese Teilnehmer liegen die Preise bei 25 Dollar pro Million Input-Token und 125 Dollar pro Million Output-Token.

Project Glasswing soll mehrere Monate laufen. Anthropic hat zudem einen öffentlichen Bericht innerhalb von 90 Tagen angekündigt. Darin sollen die entdeckten Schwachstellen sowie konkrete Empfehlungen zur Verbesserung von Sicherheitspraktiken aufgeführt werden, etwa automatisiertes Patchen und eine bessere Absicherung der Lieferkette. Anthropic erklärte außerdem, dass das Unternehmen sich bereits in laufenden Gesprächen mit Vertretern der US-Regierung über die offensiven und defensiven Fähigkeiten des Modells befindet.