KI-Agenten sind in Unternehmen längst Teil der digitalen Belegschaft, werden aber häufig ohne Wissen der Sicherheitsteams eingesetzt. Studien zeigen grosse Kontrolllücken und zahlreiche Vorfälle mit Datenlecks, Betriebsstörungen und finanziellen Schäden. Besonders riskant sind manipulierte Eingaben, weitreichende Rechte und unbefristete API-Schlüssel. Unternehmen brauchen deshalb Transparenz, Zero Trust, temporäre Zugriffe und eine laufende Verhaltensüberwachung konsequent.
Sprechen Unternehmen von digitalen Identitäten, meinen sie damit schon lange nicht mehr nur ihre menschlichen Angestellten, ihre Dienstkonten, Automatisierungsplattformen und Bots. Denn vor knapp zwei Jahren ist eine neue, ganz andere Art von digitaler Identität hinzugekommen: KI-Agenten.
Anders als traditionelle maschinelle Identitäten folgen KI-Agenten keiner starren Befehlsabfolge. Sie operieren eigenständig, autonom. Sie können planen, Tools auswählen, APIs aufrufen, Code generieren, Aufgaben sogar delegieren. Die Bandbreite ihrer Einsatzmöglichkeiten, ihre Eigenständigkeit und ihre häufig sehr weitreichenden Zugriffsrechte machen sie aber auch zu einem Risikoherd mit erheblichem Schadenspotential. Zu einem Sicherheitsrisiko, über dessen wahres Ausmaß man sich in den meisten Unternehmen gerade erst klar zu werden beginnt.
Laut einer Cloud Security Alliance-Studie kommen derzeit in 82 Prozent aller Unternehmen KI-Agenten zum Einsatz, von deren Existenz die entsprechenden Cybersicherheits-Teams nicht wissen. Nur 32 Prozent aller Unternehmen, so eine aktuelle CyberArk-Studie, haben Kontrollen zum Management ihrer KI-bedingten Risiken implementiert. Und nur 28 Prozent, so eine aktuelle Keyfactor-Studie, gehen derzeit überhaupt davon aus, verhindern zu können, dass ein KI-Agent in ihrem Ökosystem Schaden anrichtet. Kein Wunder, dass fast zwei Drittel aller befragten Unternehmen im vergangenen Jahr mindestens einen Sicherheitsvorfall zu beklagen hatte, der mit KI-Agenten in Zusammenhang stand; mit teils erheblichen Folgen. 61 Prozent der Vorfälle führten zu Datenlecks, 43 Prozent zu Betriebsstörungen und 35 Prozent sogar zu finanziellen Einbußen.
Eine zentrale Ursache dieser Sicherheitsvorfälle:
…die Kompromittierung der KI-Agenten durch einen Angreifer. Weltweit haben sich Prompt Injection, Goal Hijacking, Privilege Escalation und Memory Poisoning innerhalb kürzester Zeit zu beliebten Angriffsvektoren entwickelt. Für die Cybersicherheit eines Unternehmens ist es schwer, solche Attacken rechtzeitig zu erfassen und abzuwehren. Der Angreifer muss keine Zugangsdaten stehlen. Es reicht völlig aus, wenn es ihm gelingt, die Eingaben, die dem KI-Agenten seine Aufgaben zuweisen, zu manipulieren – etwa über präparierte E-Mails, Support-Tickets oder Websites. Erschwerend kommt hinzu: die API-Schlüssel der KI-Agenten sind meist zeitlich unbefristet, ihre Zugangsberechtigungen viel zu weitreichend und ihre Überwachung, in aller Regel, ungenügend. Damit bieten KI-Agenten ideale Voraussetzungen, zur nächsten Insider-Bedrohung zu werden.
Um dieses Risiko erfolgreich in den Griff zu bekommen, müssen Unternehmen zunächst einmal vor allem eines tun: Transparenz schaffen. Ein Inventar aller im IT-Ökosystem zum Einsatz kommenden KI-Agenten ist in diesem Zusammenhang eine zwingende Notwendigkeit. Dann muss das Prinzip Zero Trust konsequent auf sämtliche KI-Agenten angewandt werden.
Ein Agent zur Ticket-Zusammenfassung darf keinen Zugriff auf vertrauliche Kundendatenbanken erhalten.
Darüber hinaus sollten dauerhafte durch temporäre Zugriffsrechte ersetzt werden. Und: Um ungewöhnliche KI-Aktivitäten möglichst frühzeitig zu erkennen, sollten Sicherheitsteams von der Überprüfung der Identität eines Agenten zur Überwachung seines Verhaltens übergehen. Entsprechende Lösungen, wie etwa Agent Risk Manager, die Cybersicherheitsteams bei Maßnahmen zur Minimierung der Risiken ihrer KI-Agenten effektiv unterstützen können, sind längst am Markt erhältlich.
Die Cybersicherheit muss sich klar werden, dass KI-Agenten längst einen festen Bestandteil der digitalen Belegschaft ihres Unternehmens bilden. Sie müssen verstehen, dass KI-Agenten anders abgesichert werden müssen als menschliche und Maschinenidentitäten. Leicht können sie manipuliert, zu einem Insider Threat umfunktioniert werden. Hiergegen gilt es, sich zu schützen. Mit guten Policies und einer umfassenden Digital Workforce Security, die hilft, alle Teile der neuen digitalen Belegschaft abzusichern, auch die KI-Agenten.
Autor: Erich Kron, CISO Advisor bei KnowBe4.
KnowBe4
KnowBe4 befähigt Mitarbeiter, jeden Tag intelligentere Sicherheitsentscheidungen zu treffen. KnowBe4 geniesst das Vertrauen von mehr als 70.000 Unternehmen weltweit, fördert die Sicherheitskultur und hilft Teams dabei, sowohl menschliche als auch KI-agentenbezogene Risiken zu managen. Das Unternehmen bietet eine umfassende, KI-agentenbasierte Best-of-Suite-Plattform für das Human Risk Management und schafft so eine adaptive Verteidigungsschicht, die sicheres Verhalten gegenüber sich ständig weiterentwickelnden Cybersicherheitsbedrohungen fördert. Die HRM+-Plattform umfasst Sensibilisierungsschulungen, integrierte Cloud-E-Mail-Sicherheit, Echtzeit-Coaching, Crowdsourced Anti-Phishing, KI-Verteidigungsagenten und vieles mehr. KI wird mehr und mehr in Geschäftsabläufe integriert. KnowBe4 bereitet moderne Belegschaften genau darauf vor, indem es sowohl Menschen als auch KI-Agenten darin schult, Sicherheitsrisiken zu erkennen und darauf zu reagieren. Durch diesen einheitlichen Ansatz ist KnowBe4 führend in den Bereichen Workforce Trust Management und Cyber Defense-Strategie.
