Künstliche Intelligenz erhöht laut der Beratung Neurawork das Risiko von Social Engineering erheblich. Täuschend echte Stimmen, Videos und Nachrichten greifen vor allem das Vertrauen von Mitarbeitenden an. Eine YouGov-Umfrage zeigt, dass 24 Prozent der befragten Unternehmen KI-gestützte Cyberangriffe zu ihren grössten Geschäftsrisiken zählen. Neurawork empfiehlt eine Sicherheitsarchitektur mit klaren Zugriffsrechten, menschlichen Freigaben, Governance und Protokollierung.
KI macht Social Engineering gefährlicher. Kriminelle können Stimmen imitieren, Videobilder manipulieren und Nachrichten erstellen, die sprachlich und inhaltlich kaum noch von echter Unternehmenskommunikation zu unterscheiden sind. Dadurch wird nicht zuerst die Technik angegriffen, sondern das Vertrauen der Mitarbeitenden. Davor warnt die auf Operational AI spezialisierte Beratung Neurawork.
Laut der jüngsten YouGov-Umfrage im Auftrag von Neurawork zählen 24 Prozent der 541 befragten Unternehmen Cyberangriffe oder Datendiebstahl durch den Einsatz von KI zu den größten geschäftlichen Risiken.
«KI knackt nicht zuerst die Technik, sondern das Vertrauen der Menschen. Je echter Stimmen, Bilder und Nachrichten wirken, desto weniger dürfen Unternehmen wichtige Entscheidungen von einem einzigen Kommunikationsweg abhängig machen», sagt Christoph Knöll, Mitgründer der KI-Beratung Neurawork.
Der Mensch bleibt wichtig – darf aber nicht die einzige Schutzschicht sein
Schulungen, Rückrufverfahren und das Vier-Augen-Prinzip bleiben unverzichtbar. Sie können jedoch nicht verhindern, dass Mitarbeitende im Stress Fehler machen oder eine professionell vorbereitete Täuschung nicht rechtzeitig erkennen.
Deshalb gehört zur Operational AI eine Sicherheitsarchitektur, die den Handlungsspielraum eines Angreifers begrenzt. Selbst wenn eine manipulierte Nachricht erfolgreich ist, darf sie nicht automatisch zu einer Überweisung, einem Datenabfluss oder einem umfassenden Systemzugriff führen.
Fünf Bausteine einer sicheren KI-Architektur
- Sensible Daten bleiben in einer kontrollierten Umgebung: Vertrauliche Kunden-, Mandanten- oder Unternehmensdaten sollten nicht unkontrolliert an externe KI-Dienste übermittelt werden. Neurawork setzt bei sensiblen Anwendungen auf kontrollierte Infrastrukturen, die beispielsweise in Deutschland betrieben werden können. Dadurch bleibt nachvollziehbar, wo Daten verarbeitet werden und wer darauf zugreifen darf.
- Jeder Zugriff wird begrenzt: KI-Systeme und KI-Agenten erhalten nur die Rechte, die sie für eine konkrete Aufgabe benötigen. Ein System, das Dokumente analysiert, muss beispielsweise nicht automatisch E-Mails versenden, Bankverbindungen ändern oder Dateien löschen können.
- Kritische Aktionen brauchen eine menschliche Freigabe: Zahlungen, Änderungen von Stammdaten, die Weitergabe vertraulicher Informationen oder die Vergabe neuer Zugriffsrechte dürfen nicht allein durch eine KI oder aufgrund einer einzelnen Nachricht ausgelöst werden. Solche Vorgänge benötigen klar definierte Freigabeschritte.
- KI-Agenten arbeiten innerhalb fester Governance-Regeln: KI-Agenten können Daten analysieren und Prozesse vorbereiten. Sie sollten jedoch nur innerhalb vorgegebener Regeln handeln. Dazu gehören dokumentierte Zuständigkeiten, Rollen- und Rechtekonzepte sowie klare Grenzen für automatisierte Entscheidungen.
- Aktivitäten müssen protokolliert und überprüfbar sein: Unternehmen müssen erkennen können, welche Daten ein KI-System verarbeitet hat, welche Aktion ausgelöst wurde und wer diese freigegeben hat. Protokollierung und Überwachung helfen, ungewöhnliche Vorgänge frühzeitig zu entdecken und Vorfälle nachzuvollziehen.
Sicherheit entsteht durch Architektur, Prozesse und Menschen
Wie dieser Ansatz praktisch funktioniert, zeigt ein gemeinsames Projekt von Neurawork und der EVENTUS Group. Für die Steuerberatungsgesellschaft wurde innerhalb von sieben Wochen eine eigene KI-Infrastruktur aufgebaut. Sensible Mandantendaten werden innerhalb einer kontrollierten Umgebung verarbeitet. KI-Agenten analysieren Datenströme und unterstützen Prozesse innerhalb klar definierter Governance- und Zugriffsregeln.
Das Beispiel zeigt: Strenge Anforderungen an Vertraulichkeit und Datenschutz müssen kein Hindernis für den Einsatz von KI sein. Entscheidend ist, dass Unternehmen nicht lediglich einzelne KI-Tools einführen, sondern Sicherheit von Anfang an in die Architektur integrieren.
