KnowBe4 warnt vor Risiken durch Agentic AI

KnowBe4, der führende Anbieter Digitaler Workforce Security, der sich umfassend mit dem Schutz von Menschen und KI-Agenten befasst, gibt die Veröffentlichung seines neuen Forschungsberichts «From Agentic Risk to Human Wins: Building a Culture of Security in the Era of Agentic AI» bekannt. Die Ergebnisse offenbaren eine gefährliche Realität für deutsche Unternehmen: Autonome KI-Tools erweitern die Angriffsfläche von Unternehmen schneller, als Sicherheitsteams Schutzmaßnahmen implementieren können.

Agentic AI ist mittlerweile weit in den Arbeitsalltag integriert, deshalb berichten alle deutschen Cybersicherheitsverantwortlichen, dass sie KI nutzen. 78 Prozent haben bereits KI-Agenten im Einsatz, die innerhalb der Arbeitsabläufe von Unternehmen Maßnahmen ergreifen, davon sogar 62 Prozent autonom. Ein Mangel an Governance macht Organisationen jedoch angreifbar; der Bericht zeigt, dass erschreckende 48 Prozent der Organisationen angeben, dass ihre KI-Nutzung nicht genehmigt oder nicht geregelt ist. Diese unkontrollierte «Schatten-KI» fungiert praktisch als unsichtbare Ebene von Schattenmitarbeitern, die sensible Unternehmensdaten ohne Aufsicht bearbeiten.

Wichtigste Ergebnisse des Berichts:

• 87 Prozent der deutschen Beschäftigten geben an, dass Deepfake-Stimmen und -Videos mittlerweile so realistisch sind, dass man nicht mehr weiß, wem man vertrauen kann, und 55 Prozent geben offen zu, dass sie sich am Arbeitsplatz von einem Deepfake-Betrug täuschen lassen könnten.
• 62 Prozent der deutschen Cybersicherheitsverantwortlichen gaben an, dass mangelndes Bewusstsein oder unklare Sicherheitsrichtlinien in den letzten 12 Monaten den größten Einfluss auf die Cybersicherheit ihres Unternehmens hatten. Hinzu kommt, dass viele (64%) Beschäftigten anerkennen, dass Zeitdruck und Ablenkungen am Arbeitsplatz sie aktiv dazu verleiten, kritische Sicherheitsfehler zu begehen, selbst wenn sie die Sicherheitsvorschriften kennen.
• 46 Prozent der Cybersicherheitsverantwortlichen in Deutschland identifizieren KI-gestützte Angriffe als einen der Hauptfaktoren für zukünftige, vom Menschen verursachte Cybersicherheitsrisiken.
• 42 Prozent der Cybersicherheitsverantwortlichen berichten, dass die Nutzung nicht genehmigter Software und KI-Apps ihre Sicherheitslage in den letzten 12 Monaten am meisten beeinträchtigt hat.

Der Bericht zeigt, dass vor allem jene Unternehmen Fortschritte erzielen, die Cybersicherheit als Teil ihrer Unternehmenskultur betrachten und sicheres Verhalten nahtlos in den Arbeitsalltag integrieren. Diese Unternehmen schaffen ein Umfeld, in dem sich die Mitarbeiter sicher genug fühlen, um Fehler zu melden.

«Die Cybersicherheit ist in eine volatile Phase eingetreten, in der Unternehmen versuchen, eine hybride Belegschaft aus Menschen und KI zu sichern, die sich schneller verändert, als Sicherheitsverantwortliche mithalten können», erklärt Dr. Martin Krämer, CISO-Advisor bei KnowBe4. «Angreifer agieren mit maschineller Geschwindigkeit und nutzen Angriffe wie Deepfakes, um Mitarbeiter ins Visier zu nehmen, sowie Prompt-Injections, um KI-Agenten zu kapern. Fast die Hälfte der KI-Nutzung in einem Unternehmen unkontrolliert zu lassen, ist eine massive Einladung an Angreifer.»

Der Bericht «From Agentic Risk to Human Wins: Building a Culture of Security in the Era of Agentic AI» kommt zu dem Schluss, dass das Erreichen von «Erfolgen» erfordert, dass Unternehmen Systeme entwerfen, die das Verhalten lenken, unterstützende Kulturen aufbauen und den Fokus von der Verfolgung von Fehlern auf die Verstärkung positiver Handlungen verlagern. Zudem muss eine «Security-First»-Denkweise sowohl auf KI-Agenten als auch auf Menschen ausgeweitet werden.