Pegasystems warnt Unternehmen vor den Risiken einer unkoordinierten Nutzung von KI-Tools wie ChatGPT oder Gemini durch Mitarbeitende. Ohne klare Vorgaben drohen fehlerhafte Entscheidungen, Datenschutzverletzungen, Security-Breaches und fehlender geschäftlicher Mehrwert. Als Lösung empfiehlt das Unternehmen den Einsatz sicherer, kontrollierter KI-Anwendungen auf Basis von Low-Code- und Workflow-Plattformen, um Prozesse effizient und regelkonform zu automatisieren.
Gehen Unternehmen die Einführung von KI nicht koordiniert an, suchen sich Mitarbeitende schnell eigene Tools wie ChatGPT oder Gemini – mit weitreichenden Folgen. Manche Unternehmen verbieten die KI-Nutzung daher kurzerhand, verschenken dann aber das transformative Potenzial der Technologie. Zudem können sie das Verbot oft technisch nicht durchsetzen, sodass die Mitarbeitenden es umgehen und eigene Tools einsetzen können.
Die größten Gefahren einer unkoordinierten KI-Nutzung durch Mitarbeitende sind nach Einschätzung von Pegasystems, The Enterprise Transformation Company:
# Gefahr Nr. 1
Schlechte oder falsche KI-Entscheidungen: Die meisten öffentlichen KI-Tools agieren als Black Box. Unternehmen wissen nicht, wie und mit welchen Daten die dahinterstehenden Modelle trainiert wurden und wie sie zu ihren Entscheidungen kommen. Diese können gut sein, aber auch komplett halluziniert oder zumindest ungenau, unfair oder diskriminierend. Zudem fehlt den Modellen das umfangreiche interne Know-how, das für viele Aufgaben wichtig ist und via Training direkt ins Modell integriert oder ihm via Retrieval-Augmented Generation (RAG) zur Verfügung gestellt wird.
# Gefahr Nr. 2
Security-Breaches: Nutzen Mitarbeitende öffentliche KI-Tools, können leicht sensible Daten nach außen gelangen, etwa wenn interne Dokumente analysiert oder optimiert werden sollen. Selbst wenn Mitarbeitende sicherheitsbewusst agieren, lassen sich Unachtsamkeiten im stressigen Arbeitsalltag nicht immer vermeiden. Sind Kundendaten, Verträge, Finanzinformationen, Quellcode, Konstruktionsdaten und anderes Intellectual Property aber erst einmal außer Haus, haben Unternehmen keinerlei Kontrolle mehr darüber. Die Daten tauchen möglicherweise in den Antworten der KI auf die Anfragen anderer Nutzer auf oder können bei einem Angriff auf den KI-Anbieter Cyberkriminellen in die Hände fallen.
# Gefahr Nr. 3
Datenschutzverletzungen: Bei der täglichen Arbeit mit öffentlichen KI-Tools besteht die Gefahr, dass Mitarbeitende der KI personenbezogene Daten – etwa von Kollegen oder Kunden – übergeben. Für Unternehmen ist das ein rechtliches Risiko. Zum einen dürfen personenbezogene Daten nur unter ganz bestimmten Bedingungen außerhalb der EU gespeichert und verarbeitet werden, weshalb sich viele außereuropäische KI-Tools nicht datenschutzkonform nutzen lassen. Zum anderen benötigen Unternehmen für die Verarbeitung der Daten mit KI eine klare Rechtsgrundlage und müssen unter Umständen die Betroffenen darüber informieren. Somit kann es leicht zu Datenschutzverstößen kommen und in der Folge zu Rechtsstreitigkeiten, Bußgeldern und Rufschädigungen.
# Gefahr Nr. 4
Fehlender Business-Mehrwert: Suchen sich Mitarbeitende eigene KI-Tools, haben sie üblicherweise vor allem ihre ganz konkreten Aufgaben und Herausforderungen des Arbeitsalltags im Blick. Sie denken nicht in Geschäftsprozessen und Use Cases, sodass ihre Lösungen in der Regel nur einen sehr isolierten Nutzen bringen. Sie erleichtern dem Einzelnen die Arbeit, sparen etwas Zeit ein – ein sinnvoll verbesserter Prozess oder ein signifikanter geschäftlicher Mehrwert ergibt sich daraus aber meist nicht.
# Gefahr Nr. 5
Unnötiger Mehraufwand: Gibt es keine Vorgaben von Unternehmensseite, experimentieren Mitarbeitende mit verschiedenen KI-Tools herum, was viel Zeit kostet – oft auch mehrfach, weil jeder für sich selbst auf der Suche nach dem perfekten Tool ist. Es entsteht ein Flickenteppich, der einiges an zusätzlichem Aufwand verursachen kann, wenn neue Abstimmungen und Workarounds notwendig werden oder wenn IT-Teams das Chaos später vereinheitlichen sollen.
# Gefahr Nr. 6
Ungewollte Abhängigkeiten: Durch den Einsatz der KI-Tools von externen Anbietern entstehen Abhängigkeiten auf Unternehmensseite, die problematisch werden können. Zum einen gewöhnen sich die Mitarbeitenden an «ihre» Tools, was es schwer macht, diese später durch andere, offizielle Angebote zu ersetzen. Zum anderen können Abläufe gestört werden, wenn Tools plötzlich wegfallen – etwa, wenn Anbieter vom Markt verschwinden oder Angebote kostenpflichtig werden.
# Gefahr Nr. 7
Compliance-Risiken: Öffentlichen KI-Tools fehlt es häufig an Tracebility, Auditability und Funktionen für Protokollierung und Dokumentierung. Unternehmen können die Nutzung der Tools und deren Entscheidungen nicht nachvollziehen und überprüfen – und damit auch keine Fragen zu möglichen Datenschutzverletzungen oder zur Ausgewogenheit der KI-Ergebnisse beantworten.
Um diese Risiken zu vermeiden, sollten Unternehmen ihren Mitarbeitenden ausgewählte KI-Tools an die Hand geben, die Ende-zu-Ende-Prozesse verbessern und geschäftsrelevante Probleme lösen. Fertige Tools von externen Anbietern sind zwar schnell angeschafft, lassen sich oft aber nur schlecht an individuelle Problemstellungen anpassen. Zudem schrumpft die Auswahl schnell zusammen, wenn hohe Anforderungen etwa hinsichtlich Nachvollziehbarkeit der Entscheidungen, Datensicherheit und Datenschutz erfüllt werden müssen. Die Entwicklung eigener Tools in Standard-Entwicklungsprozessen wiederum ist aufwendig, zeitraubend und teuer – und häufig schlicht nicht möglich, weil Entwickler und IT-Spezialisten in großen Entwicklungsprojekten und Transformationsvorhaben gebunden sind.
Low-Code ebnet den Weg zur unternehmenstauglichen KI
Einen Ausweg bieten Low-Code-Plattformen, die geprüfte Bausteine bereitstellen, mit denen sich KI-Tools effizient und sicher erstellen und einführen lassen und das unter enger Einbindung der Fachbereichsspezialisten, also den künftigen Nutzern der Tools. Die Bausteine können wiederverwendet werden, was den Aufwand für die Entwicklung und die Pflege weiterer Tools erheblich reduziert.
Besitzen die Plattformen zudem Workflow-Fähigkeiten, lassen sich Abläufe sehr genau vorgeben, wodurch Fehler sowohl durch Mensch als auch KI unwahrscheinlicher werden. Zudem lassen sich KI-Entscheidungen leichter nachvollziehen, was Prüfungen durch Mitarbeitende deutlich vereinfacht (Human in the Loop), und auch deterministische Ergebnisse sind leichter erreichbar. Die KI liefert dann bei identischem Input immer exakt dasselbe Ergebnis – etwas, das insbesondere in Use Cases wichtig ist, bei denen es auf Genauigkeit, Sicherheit und die Einhaltung von Regeln ankommt.
Letztlich bietet die Umsetzung von KI-Tools mit einer Kombination aus Low-Code und Workflow-Fähigkeiten für Unternehmen den größten Mehrwert. Zumal moderne Low-Code-Plattformen ihrerseits KI nutzen, um das Anwendungsdesign zu vereinfachen und zu beschleunigen. Damit senken sie die Einstiegshürden für Mitarbeitende aus den Fachbereichen deutlich.
«Mitarbeitende wollen mit KI-Tools vor allem ihre eigene Arbeit erleichtern. Die Tools, die sie auswählen, bringen das Unternehmen insgesamt aber kaum voran und verursachen eine Vielzahl von Problemen», betont Uwe Specht, Prinicple Specialist Solution Consultant bei Pegasystems. «Unternehmen müssen KI jedoch zielgerichtet einsetzen, um Prozesse von Ende zu Ende zu verbessern. Low-Code ist eine gute Basis, die Entwicklung und Einführung koordiniert, effizient und sicher anzugehen.»
Pegasystems
Pegasystems ist ein weltweit führendes Unternehmen im Bereich der Software für Customer Engagement und digitale Prozessautomatisierung. Mit seiner Plattform unterstützt Pega Unternehmen dabei, komplexe Geschäftsprozesse zu automatisieren, Kundeninteraktionen zu verbessern und operative Effizienz zu steigern. Die Software von Pega, die auf Technologien wie Künstlicher Intelligenz und Machine Learning basiert, wird in verschiedenen Branchen eingesetzt, darunter Finanzdienstleistungen, Gesundheitswesen und Telekommunikation.
