Google bietet 12 Millionen Dollar für Hacker, die Angriffe auf generative KI bekämpfen

Google belohnt Entdeckungen, die Schwachstellen von generativer KI aufzeigen und erweitert damit ein bereits bestehendes Programm - diesmal sollen jedoch Hacker ermutigt werden potenzielle Angriffe aufzudecken. Das Vulnerability Rewards Program (VRP) enthält klare Richtlinien, welche Meldungen für eine finanzielle Belohnung in Frage kommen. Wenn ein Problem als geeignet erscheint, um berichtet zu werden, kann es auf der Bug-Hunter-Website eingereicht werden, um eine Belohnung zu erhalten, falls es als gültig befunden wird.

Google zahlte im letzten Jahr 12 Millionen US-Dollar an Sicherheitsfachleute, die Schwachstellen aufgespürt hatten. Im August traf sich das Unternehmen im Weißen Haus mit anderen Branchenvertretern und Sicherheitsforschern auf der Defcon, der bisher größten öffentlichen Veranstaltung für generative KI, um potenzielle Probleme zu identifizieren.

Wir sind der Ansicht, dass die Erweiterung des VRP Anreize für die Forschung im Bereich der KI-Sicherheit schafft und potenzielle Probleme aufdeckt, die letztendlich die KI für alle sicherer machen werden. Weiterhin weiten wir unsere Open-Source-Sicherheitsarbeit aus, um Informationen über die Sicherheit der KI-Lieferkette allgemein zugänglich und überprüfbar zu machen.

- Google

Bisher nutzte das Unternehmen sein eigenes "AI Red Team", um Angriffsmethoden auf KI zu erforschen und Systemabwehrmaßnahmen zu entwickeln.

Wir testen eine Reihe von Systemabwehrmaßnahmen, indem wir die Taktiken, Techniken und Verfahren (TTPs) der Angreifer nutzen.

- Daniel Fabian, Leiter von Google Red Teams

Nach den neuen Regeln dürfen nun auch externe Hacker beispielsweise Angriffe simulieren, um Verwundbarkeiten in Googles KI-Systemen und -Diensten zu finden, müssen dabei aber in einem strengen Rahmen arbeiten. Die Erweiterung des Bonus-Programms erfolgte vor der Einführung einer neuen Verordnung durch Präsident Biden.

Am 30. Oktober präsentierte Joe Biden eine neue Durchführungsverordnung zur künstlichen Intelligenz, welche die erste verbindliche Regierungsmaßnahme zu dieser Technologie darstellt. Die Verordnung schreibt vor, dass KI-Modelle vor ihrer Nutzung durch Regierungsbehörden einer strengen Bewertung unterzogen werden müssen.