KI-Agenten übernehmen immer mehr Aufgaben in Unternehmen. Doch wie lässt sich sicherstellen, dass sie auch nach dem Start zuverlässig arbeiten? Bei mehreren Plattformen können Fehler lange unbemerkt bleiben. Salesforce setzt mit neuen Funktionen für Agent Fabric genau hier an. Der Ansatz verbindet laufende Qualitätsprüfungen mit klaren Regeln für den Ernstfall. Was das für Betrieb und Kosten bedeutet, zeigt der Beitrag. Und wo liegen die Grenzen automatischer Eingriffe?
Salesforce stellt Unternehmen künftig neue Funktionen zur Kontrolle ihrer KI-Agenten zur Verfügung, um ihnen den sicheren und effizienten Einsatz ihrer Agenten zu ermöglichen. Agenten – egal welcher Plattform – können künftig kontinuierlich im Live-Betrieb geprüft werden. Bei Fehlfunktionen oder nachlassender Qualität werden automatisch Gegenmassnahmen eingeleitet, bis hin zur Abschaltung über den Agent Kill Switch. Ausserdem unterbindet eine verbesserte Kostenkontrolle Anfragen, sobald das Budget ausgeschöpft ist. Die Funktion zur automatischen Agenten-Erkennung schliesst jetzt sowohl interne Umgebungen als auch Systeme hinter Firewalls und Drittanbieter-Plattformen ein.
Tests vor dem Start, Bewertung im Betrieb
Agenten können unbemerkt falsche Antworten liefern und Kosten verursachen. Laut LangChain evaluiert weniger als die Hälfte der Organisationen ihre Agenten im Live-Betrieb, und bis ein Problem behoben ist, vergeht oft zu viel Zeit. Zudem betreiben laut einer Studie von Salesforce und Atlantic Insights 96 Prozent der Unternehmen Agenten auf mehr als einer Plattform. Salesforce hat deshalb eine kontinuierliche Evaluierung und automatisierte Eingriffe in die bestehende Kontrollebene für KI-Agenten, Agent Fabric, integriert:
- Agent Evals erstellt vor der Bereitstellung automatisch Tests und bewertet anschließend Agenten, LLMs sowie MCP-Server anhand definierter Qualitätsschwellen. Wenn die Ergebnisse unter den Vorgaben liegen, werden vordefinierte Eingriffe ausgelöst, die bis zur Abschaltung durch den Agent Kill Switch reichen; die Richtlinie dafür erstellt das Unternehmen, beispielsweise dass die Genehmigung durch verantwortliche Mitarbeiter:innen erfolgt.
- API Evals leitet funktionale und Performance-Tests aus API-Spezifikationen ab. So werden Breaking Changes erkannt, bevor sie den Produktivbetrieb beeinträchtigen, da Agenten häufig an Änderungen an den involvierten APIs scheitern.
- Erweiterte Kostenkontrollen: Das FinOps-Dashboard und die Model Wallet bieten Budgetverantwortlichen eine zentrale Übersicht über die KI-Ausgaben und ermöglichen die Einrichtung verbindlicher Limits. Cost Optimization Policies reduzieren den Token-Verbrauch laut Testszenarien um bis zu 75 Prozent. Dafür nutzen sie semantisches Caching, Payload-Komprimierung und die Kürzung von Antworten.
Kontrolle über den gesamten Agenten-Lebenszyklus
Verantwortliche können anhand von Evaluationen und Governance beurteilen, ob Agenten Aufgaben korrekt erledigen, die richtigen Tools nutzen, effizient arbeiten und Sicherheitsrichtlinien einhalten. Wenn diese Erkenntnisse vordefinierte Reaktionen auslösen, reduziert sich der manuelle Aufwand für die plattformübergreifende Überwachung und der ordnungsgemässe Betrieb wird sichergestellt.
In der Praxis sieht das so aus: Ein Einzelhändler stellt seinen Bestell-Support-Agenten auf ein günstigeres KI-Modell um. Agent Evals erkennt über geplante Tests automatisch, dass der Agent falsche Auskünfte zu verzögerten Bestellungen gibt. Nach Freigabe durch einen Menschen wird der Agent unter Quarantäne gestellt, die Anweisungen werden überarbeitet und erneut auf einem günstigeren Modell getestet, bevor er wieder live geht. So kann das Unternehmen Kosten senken, ohne das Kundenerlebnis zu beeinträchtigen.
Agenten und APIs über alle Umgebungen und Gateways hinweg steuern
Der Custom Agent Scanner erweitert die automatische Erkennung von Agenten auf Systeme hinter Firewalls und Drittanbieter-Plattformen. Eigene Scanner erfassen Agenten, Modelle, MCP-Server und APIs in der Agent Registry, ohne dass jedes Asset manuell registriert werden muss. Mit Open Policies for Federated API Gateways lassen sich Richtlinien wie IP-Allowlisting oder Rate Limiting gleichzeitig auf Gateways von Azure, Apigee und Kong anwenden. Statt jedes Gateway einzeln zu konfigurieren, erfolgt dies mit einer einzigen Aktion.
