Autonome KI-Hacker sind menschlichen Hackern überlegen

Angesichts steigender Ransomware-Zahlen stehen Cybersecurity-Teams in Unternehmen vor einem raschen Wandel bei der Bewertung von Bedrohungsvektoren. Eine neue Studie im Auftrag von Exabeam, durchgeführt von Sapio Research, ergab, dass 48 % der IT- und Sicherheitsentscheider mittlerweile autonome KI-Agenten mit übermäßigen oder unbeabsichtigten Systemzugriffen als ihre größte Einzelbedrohung betrachten – noch vor externen Hackern, kompromittierten Insidern und böswilligen Mitarbeitern.

Für die Studie wurden 600 Entscheider aus den Bereichen IT-Sicherheit und Finanzen in den USA, Kanada, Großbritannien, Frankreich, Deutschland, den Niederlanden und Australien befragt. Alle Teilnehmenden stammten aus Unternehmen mit mindestens 500 Beschäftigten. Externe Angreifer landeten mit 28 % auf dem zweiten Platz, während kompromittierte Insider und böswillige menschliche Angestellte jeweils 12 % ausmachten.

Warum agentische Systeme herkömmliche Schutzmechanismen umgehen

Exabeam definiert die betreffenden KI-Agenten als zielorientierte, autonome Systeme, die auf Unternehmensressourcen zugreifen und mit begrenzter menschlicher Aufsicht agieren können – im Unterschied zu dialogorientierten Chatbots. Da diese Agenten in der Regel mit legitimen Administratorzugangsdaten, API-Schlüsseln und erweiterten Berechtigungen arbeiten, können Aktionen eines böswilligen oder falsch konfigurierten Agenten herkömmliche Perimeter-Abwehrmaßnahmen und Basiswerte für Benutzerverhalten umgehen, ohne dass Standard-Sicherheitswarnungen ausgelöst werden. Das Risiko setzt keine böswillige Absicht seitens des Agenten voraus, sondern lediglich unkontrollierten Zugriff.

Überwachung kann mit zunehmender Verbreitung kaum Schritt halten

Während Unternehmen den Einsatz autonomer KI in ihren Geschäftsabläufen ausweiten, arbeiten Sicherheitsanbieter daran, spezielle Analysen zum Agentenverhalten zu entwickeln, um maschinelle Entscheidungsprozesse parallel zu bestehenden Zugriffsprotokollen menschlicher Benutzer zu verfolgen. Der Bericht von Exabeam mit dem Titel „The Agentic Insider: From Monitoring to Understanding“ stellt fest, dass Unternehmen zwar bereits ihre Überwachungsmaßnahmen für KI-Agenten ausweiten, viele jedoch nach wie vor Schwierigkeiten haben, das Verhalten der Agenten über verschiedene Systeme und im geschäftlichen Kontext hinweg vollständig zu verstehen.

Es ist anzumerken, dass die Umfrage das wahrgenommene Risiko unter Entscheidungsträgern misst und nicht bestätigte Vorfallzahlen, sodass sie nicht als Beweis dafür gewertet werden sollte, dass KI-Agenten Hacker hinsichtlich der tatsächlichen Anzahl von Sicherheitsverletzungen überholt haben. Dennoch deuten die Ergebnisse auf eine klare Verschiebung der Prioritäten hin: Da Agenten immer umfassenderen Zugriff auf Unternehmenssysteme erhalten, wird es für Sicherheitsteams zu einer dringenden Herausforderung, die Lücke zwischen der Gewährung dieses Zugriffs und der tatsächlichen Überwachung seiner Nutzung zu schließen.

Der Spagat mit Updates für Windows-Administratoren

Diese Erkenntnis kommt zu einem Zeitpunkt, an dem IT-Teams in Unternehmen bereits mit einem stetigen Strom von Windows-Updates und -Patches für ihre gesamten Systemflotten jonglieren. Microsofts eigenes aktuelles Preview-Update, KB5124010, brachte eine Mischung aus neuen Funktionen und zwei bekannt gegebenen Problemen mit sich – eine Erinnerung daran, dass die Aufrechterhaltung gepatchter und stabiler Basissysteme bereits eine Vollzeitaufgabe ist, noch bevor KI-Agenten ins Spiel kommen. Da Unternehmen autonome Agenten zusätzlich zu dieser bestehenden Arbeitslast im Bereich Patch- und Zugriffsmanagement einsetzen, müssen dieselben Administratoren ihre Aufsicht von Betriebssystemen und Endgeräten auf die Agenten ausweiten, die nun neben ihnen arbeiten.