Anthropic entdeckt Versuche von Wissenschaftlern, Claude für Bioweapen-Forschung zu missbrauchen

Anthropic, das Unternehmen hinter Claude KI, hat kürzlich mehrere Wissenschaftler identifiziert und gesperrt, die versucht haben sollen, seine KI-Modelle für die mögliche Entwicklung biologischer Waffen einzusetzen. Ein neuer, vom Unternehmen veröffentlichter Bedrohungsbericht beschreibt mehrere Fälle von Missbrauch der Claude-KI-Plattform. Die Untersuchung führt fünf konkrete Beispiele auf, in denen aktive Wissenschaftler mit hochgefährlichen Krankheitserregern arbeiteten. Die Erkennung eines solchen Missbrauchs bleibt äußerst komplex, da legitime biomedizinische Forschung in vielen Fällen große Ähnlichkeiten mit der Entwicklung biologischer Waffen aufweisen kann.

In einem bemerkenswerten Fall aus dem Mai fing der interne Klassifikator für biologische Sicherheit von Anthropic eine Anfrage zur Erstellung eines Förderantrags für Gain-of-Function-Forschung am Chikungunya-Virus ab. Der durch Mücken übertragene Erreger kann schwere Symptome verursachen; eine zugelassene spezifische Behandlung gibt es derzeit nicht. Die geplante Forschung zielte darauf ab, die Übertragbarkeit des Virus sowie seine Fähigkeit zur Umgehung von Immunreaktionen zu erhöhen.

Die Verbindung dieser Forschung zu einem militärischen Institut ließ die Bedenken des Unternehmens weiter steigen. Anthropic unterband zudem einen separaten Versuch im Zusammenhang mit Gain-of-Function-Forschung zur Vogelgrippe. Dabei sollte der Erreger so angepasst werden, dass er sich leichter zwischen Säugetieren ausbreiten kann. Eine weitere abgefangene Anfrage betraf einen Forscher, der Claude zur Kartierung von Giftpeptiden und zur Optimierung ihrer Eigenschaften einsetzte.

Anthropic reagierte mit der dauerhaften Sperrung der mit diesen Aktivitäten verbundenen Konten. Die gewonnenen Erkenntnisse nutzte das Unternehmen zudem, um seine Sicherheitsvorkehrungen gegen künftigen Missbrauch zu verbessern. Der Bericht betont, dass neuere KI-Modelle zunehmend in der Lage sind, anspruchsvolle wissenschaftliche Aufgaben zu bewältigen.

Diese Fähigkeiten machen sie zu attraktiven Werkzeugen für Akteure, die Unterstützung bei komplexen biotechnologischen Forschungsarbeiten suchen. Anthropic entschied sich, die Identitäten und Institutionen der beteiligten Wissenschaftler anonym zu halten. Das Unternehmen erklärte, eine Offenlegung könnte die Betroffenen körperlicher Gefahr aussetzen. Zudem wies Anthropic darauf hin, dass die Forscher möglicherweise nicht ausdrücklich die Absicht hatten, Schaden anzurichten.