Warum KI-Projekte nicht skalieren – und was fehlt

Agentic AIData ManagementDigitalisierungPlattformenUnternehmen

Warum KI-Projekte nicht skalieren – und was fehltWarum KI-Projekte nicht skalieren – und was fehlt
Warum KI-Projekte nicht skalieren – und was fehlt

Die Skalierung von KI bleibt für viele Unternehmen eine zentrale Herausforderung, obwohl enorme Summen investiert werden. Das Hauptproblem liegt nicht in der Technologie selbst, sondern in der Art ihrer Umsetzung: Viele Initiativen verharren in der Prototypenphase. Einzelne Teams entwickeln isolierte Lösungen mit unterschiedlichen Tools und Architekturen, wodurch fragmentierte Systeme entstehen, die sich kaum integrieren oder erweitern lassen. Hinzu kommen Sicherheitsrisiken durch fehlende Governance, unkontrollierte Zugriffe und potenzielle Angriffsszenarien wie Prompt-Injections. Auch veraltete oder statische Daten schränken den praktischen Nutzen erheblich ein. Um den Übergang in den produktiven Einsatz zu schaffen, braucht es einen Paradigmenwechsel hin zu standardisierten, plattformbasierten Ansätzen. Echtzeit-Daten, modulare Strukturen und orchestrierte Systeme ermöglichen es, KI-Anwendungen effizient zu betreiben, sicher zu skalieren und echten Mehrwert im Unternehmensalltag zu generieren.

«Es gibt eine Nadel, die die KI-Blase in der Geschäftswelt zum Platzen bringen könnte. Das Problem ist nicht, dass KI-Modelle nicht leistungsfähig wären. Sondern, dass es einen grossen Unterschied gibt zwischen schnell gebauten Prototyp und einem sicheren, robusten Produktivsystem. Um den Übergang von experimentellen Pilotprojekten zum täglichen Einsatz in der Industrie und in Unternehmen zu schaffen, müssen wir aufhören, KI als wissenschaftliches Experiment zu betrachten, und anfangen, sie als integralen Bestandteil der Unternehmens-IT zu behandeln», sagt Shawn McAllister, Chief AI Strategy Officer bei Solace.

Trotz Investitionen in Billionenhöhe haben laut Schätzungen von McKinsey fast zwei Drittel der Unternehmen ihre KI-Projekte noch nicht unternehmensweit skaliert. Führungskräfte ringen mit diesem Problem: Auf dem Weltwirtschaftsforum 2026 beschäftigten sich hochkarätig besetzte Diskussionsrunden mit der Skalierung von KI und den damit einhergehenden tief verwurzelten organisatorischen Herausforderungen.

Nette Idee – schade, dass sie sich nicht skalieren lässt!

Die KI-Prototypenfalle ist ein Phänomen, das derzeit die Unternehmens-IT heimsucht. Es beginnt mit einer erfolgreichen internen Demo, beispielsweise einem Chatbot, der die HR-Dokumente eines Unternehmens analysiert, oder einem Skript, das Besprechungsnotizen zusammenfasst. Es handelt sich dabei um einen «Bottom-up»-Erfolg, bei dem einzelne Abteilungen konkrete Anwendungen für KI finden, die zunächst sehr erfolgreich sein können.

Aber diese Teams bauen Agenten isoliert voneinander auf. Ein Marketingteam entwickelt vielleicht einen Agenten mit einem Open-Source-Framework, während das IT-Betriebsteam einen anderen Agenten mit einem anderen Stack erstellt. So entstehen in massgeschneiderten Projekten fragile, isolierte Anwendungen, die entweder gar nicht miteinander interagieren oder auf Punkt-zu-Punkt-Integrationen, meist REST-APIs, angewiesen sind.

Das funktioniert zwar bei Demos, aber wenn Führungskräfte versuchen, diese Erfolge «top-down» in unternehmensweite Initiativen zu übernehmen, stossen sie auf eine digitale Mauer.

Hürden für die agentische KI

Es gibt eine Reihe von Hindernissen, die Unternehmen davon abhalten können, ihre agentenbasierten KI-Projekte erfolgreich von der Erprobungsphase in den Produktivbetrieb zu überführen. Zu den häufigsten Hürden zählen Zugangsprobleme, starre Infrastrukturen, fragmentierte Entwicklungen und veraltete Daten.

Unkontrollierter Zugang öffnet die Tür für Schwachstellen

Wenn Agenten nicht mehr nur Daten lesen, sondern auch auf ihrer Grundlage handeln, indem sie beispielsweise Handel treiben, Kapital verschieben oder sensible Kundendaten ändern, vergrössert sich die Angriffsfläche für Unternehmen exponentiell. Ohne eine zentralisierte Governance-Ebene besteht die Gefahr einer Schatten-KI im Unternehmen, bei der Sicherheitsprotokolle und Zugriffsrechte in einzelnen Agenten fest einprogrammiert sind oder ganz ignoriert werden.

Selbst in einfachen Anwendungsfällen der agentischen KI kann es passieren, dass Angriffe wie Prompt Injections die bestehenden Schutzmechanismen ausser Kraft setzen, wenn sie unbemerkt bleiben.

Dadurch entsteht ein ernsthaftes Compliance-Vakuum. Wenn ein autonomer Agent unrechtmässig auf personenbezogene Daten zugreift oder eine nicht autorisierte Transaktion auslöst, kann das Unternehmen die Frage, wer (oder was) den Verstoss autorisiert hat, nicht beantworten.

Comeback von Silos und starrer Infrastruktur – dem Feind der Unternehmensentwicklung

Die Erstellung von KI-Komponenten wie Agenten, Prompt-Templates und Vektordatenbanken als isolierte Assets schafft eine moderne Version der veralteten Silos. Wenn die KI-Architektur starr aufgebaut ist, fehlt ihr die Modularität, um sich an die Marktentwicklung anzupassen. Die Aufrüstung eines leistungsschwachen LLM auf ein effizienteres Modell wird damit zu einer umfassenden technischen Überholung statt einer einfachen Konfigurationsänderung. Das führt zu einer neuen Inkarnation von «Spaghetti-Code», einem brüchigen Geflecht aus Abhängigkeiten, das die Agilität beeinträchtigt und langfristig die technischen Schulden erhöht.

Massgeschneiderte Bottlenecks versagen bei Praxistests für den industriellen Einsatz

Die rasante Entwicklung der KI hat vielfach die Unternehmensstandards überholt und damit zu einer fragmentierten Entwicklungslandschaft geführt. Gegenwärtig verwenden einzelne Teams häufig völlig unterschiedliche Technologien und Methoden für jeden Pilotversuch, wodurch viele neue KI-Projekte zu «wissenschaftlichen Experimenten» werden.

Dieses Fehlen eines standardisierten Rahmens macht es unmöglich, KI zu industrialisieren. Damit Ideen in Unternehmensgeschwindigkeit vom Reissbrett in die Produktion gelangen können, muss sich die Entwicklung von der Einzelanfertigung zu einer wiederholbaren, plattformgesteuerten technischen Disziplin wandeln.

Veraltete Daten sind nutzlos

Um den dynamischen Charakter agentenbasierter Geschäftsaktivitäten zu unterstützen, benötigt KI das «Jetzt» und nicht das «Gestern». Die meisten aktuellen KI-Piloten arbeiten jedoch rückwärtsgerichtet. Sie stützen sich auf statische Wissensdatenbanken oder Daten aus einer Momentaufnahme. Um den Wert eines Anwendungsfalls zu demonstrieren, ist das in Ordnung. In einer Produktionsumgebung jedoch sind aktuelle Informationen erforderlich, um sinnvolle Entscheidungen zu treffen oder geeignete Massnahmen zu ergreifen. Wenn ein Logistikagent eine Lieferung auf der Grundlage von Bestandsdaten plant, die auch nur fünf Minuten alt sind, dann ist das Ergebnis nicht nur ungenau, sondern es halluziniert eine nicht mehr existente Realität herbei.

Die Kluft zwischen Experiment und Produktion überwinden

Um diese Probleme zu lösen, können Unternehmen sich nicht auf einen Flickenteppich aus Bibliotheken und Einzellösungen verlassen. Sie benötigen eine speziell für die Komplexität des Unternehmens entwickelte, ganzheitliche Plattform.

Hier kommt das Agent Mesh ins Spiel. Dabei handelt es sich um eine offene, agentische KI-Plattform, mit der Unternehmen intelligente und gut verwaltete KI-gestützte Anwendungen – von einfachen Einzelagenten bis hin zu orchestrierten Multi-Agenten-Lösungen – erstellen, einsetzen und betreiben können, die in Echtzeit mit den Anwendungen und Daten des Unternehmens interagieren.

Eine Agent-Mesh-Plattform wie Agent Mesh Enterprise von Solace kann Unternehmen bei der Umstellung auf eine geschäftskritische Bereitstellung unterstützen, indem sie eine Reihe wichtiger Voraussetzungen erfüllt:

Demokratisierte Entwicklung

Um die Lücke zwischen der ersten Idee und einem funktionalen Unternehmenssystem zu schliessen, müssen Unternehmen die Entwicklung demokratisieren, indem sie die technische Einstiegshürde senken. Ein Agent Mesh erleichtert dies, indem es – neben Pro-Code-Optionen für Entwickler – eine KI-gestützte No-Code-Schnittstelle bietet, über die Geschäftsanalysten ihr Fachwissen direkt in Agentenlogik umsetzen können.

Der gesamte Prozess muss durch eine umfassende, sofort einsatzbereite Konnektivität zu SQL, APIs und dem Model Context Protocol (MCP) unterstützt werden, damit Agenten nahtlos mit Echtzeit-Streams und Unternehmensanwendungen verbunden werden können. Eine Agent-Mesh-Plattform mit flexibler Orchestrierung, die sowohl eine dynamische Aufgabenteilung als auch vorgegebene, auf die Einhaltung von Vorschriften ausgerichtete Workflows unterstützt, ermöglicht es, einfache Pilotprojekte zu produktionsreifen Systemen weiterzuentwickeln.

High-Performance-Orchestrierung und Datenmanagement

Anders als bei herkömmlichen REST-basierten Ketten, die blockieren und ausfallen können, ermöglicht ein ereignisgesteuertes Agent Mesh eine asynchrone, parallele Orchestrierung. Dabei arbeiten mehrere Agenten gleichzeitig und befreien sich automatisch von einzelnen Blockaden. Um die hohen Kosten und Kontextbeschränkungen von LLMs zu bewältigen, kann ein Agent Mesh ein intelligentes Datenmanagement einsetzen, um nur die relevantesten Informationen an LLMs weiterzuleiten. Das reduziert «Token Burn» reduziert und beugt Halluzinationen vor.

Flexible Bereitstellung

In der sich schnell verändernden KI-Landschaft sollten Unternehmen eine cloud- und anbieterneutrale Strategie verfolgen, um kostspielige Abhängigkeiten zu vermeiden. Der Einsatz eines Agent Mesh mit flexibler Bereitstellung vor Ort, in der Cloud oder in hybriden Umgebungen stellt sicher, dass die Agenten, ihre benötigten Daten und der von ihnen gepflegte Kontext eine Vielzahl von Datenschutz- und Datensicherheitsvorschriften erfüllen. Diese Flexibilität erstreckt sich auch auf den Schutz früherer Investitionen: Die Orchestrierung von A2A-kompatiblen Agenten von Drittanbietern wird neben nativen Agenten in einem einzigen, einheitlichen Workflow ermöglicht.

Eine bessere Arbeitsweise

Wie sieht das in der Praxis aus? Durch die Kombination einer robusten Konstruktion mit einem ereignisgesteuerten Agent-Mesh entstehen in allen Branchen Anwendungsfälle, die den ROI der agentischen KI steigern und den Belastungen des Produktivbetriebs standhalten.

Konversationsanalyse: Echtzeit-Einblicke für alle

Für die meisten Unternehmen besteht die erste Hürde darin, ihre Komfortzone der statischen Dashboards zu verlassen. Die Anwender müssen komplexe Systeme wie ERP, CRM und Warenwirtschaft abfragen können, ohne tagelang auf den Bericht eines Datenanalysten warten zu müssen. Die direkte Verbindung eines Einmal-Agenten mit einer Datenbank ist ein Sicherheitsalbtraum und statische Daten sind oft bereits veraltet, wenn sie angezeigt werden.

Über eine sichere, geregelte Schnittstelle, die die Nutzer dort abholt, wo sie arbeiten (Teams, Slack, Web), kann ein Nutzer jedoch Ad-hoc-Abfragen stellen, wie z. B. «Wie hoch sind unsere Verkaufszahlen und Umsätze von heute im Vergleich zu gestern?» Das Agent Mesh überprüft die Identität des Nutzers, ruft relevante Echtzeitdaten ab, die der Nutzer sehen darf, und ermöglicht es dem Agenten, die Antwort zusammenzufassen. Das Ergebnis ist beeindruckend: Die Bereitstellungszeit verkürzt sich von Tagen auf Sekunden, während gleichzeitig eine strenge Kontrolle gewährleistet ist.

Agentische Automatisierung: End-to-End-Autonomie als Basis für die Freigabe durch Menschen

Der «heilige Gral» der KI ist die Abschaffung manueller Abläufe. Dazu müssen langwierige, mehrstufige Prozesse automatisiert werden, beispielsweise für die Erfassung von Neukunden oder die Kreditgenehmigung. Komplexe Workflows sind jedoch anfällig: Schlägt Schritt 3 einer 5-Schritte-Kette fehl, bricht der gesamte Prozess ab und muss manuell korrigiert werden.

Das Agent Mesh managt den «Zustand» dieser komplexen Arbeitsabläufe durch parallele Orchestrierung. Es kann Identitäten verifizieren und gleichzeitig Bonitätsprüfungen durchführen. Ist ein API langsam, überbrückt das Agent Mesh die Wartezeit asynchron und geht in der Zwischenzeit zur nächsten Aufgabe über. Schlägt ein Schritt fehl, wird automatisch ein neuer Versuch unternommen.

Das Ergebnis ist ein Straight-Through-Processing (STP), das die Betriebskosten und die Fehlerquote senkt, während ein Mensch für die abschliessende Bewilligung zuständig bleibt.

Die Brücke zur agentischen KI in Produktion

Durch den Einsatz eines Agent Mesh werden agentenbasierte KI-Projekte von isolierten Experimenten zu erstklassigen Geschäftsanwendungen, die nahtlos mit bestehenden Unternehmensanwendungen, Echtzeitdaten und Menschen interagieren können.

KI-Projekte übernehmen die Sicherheit und Zuverlässigkeit der bestehenden IT-Landschaft. Dadurch können Unternehmen das Potenzial von KI-Projekten voll ausschöpfen und ihre agentenbasierten KI-Anwendungsfälle unternehmensweit einsetzen.

Das alles wird auf einer gemeinsamen Plattform entwickelt, eingesetzt und überwacht. Dadurch werden die Wiederverwendung von Abläufen und der Wissensaustausch gefördert, sodass Unternehmen schnell einen Mehrwert erzielen können.

Die Zeit, in der KI wie ein wissenschaftliches Experiment behandelt wurde, ist endlich vorbei.

Mehr zu Agentic AI

Das könnte Sie auch interessieren