TELUS Digital bringt mit Fuel iX™ Fortify eine automatisierte Red-Teaming-Anwendung auf den Markt, die Unternehmen hilft, generative KI-Systeme sicher zu testen. Die Lösung führt in Minuten Tausende Angriffssimulationen durch, um Schwachstellen zu identifizieren, bevor sie ausgenutzt werden. Fortify kombiniert aktuelle Forschung mit einer wachsenden Datenbank realer Angriffsmuster und bietet intuitive Dashboards, die Risiken verständlich darstellen. Damit schliesst es die Lücke zwischen steigenden Sicherheitsanforderungen und fehlendem Fachpersonal – und stärkt das Vertrauen in verantwortungsvoll eingesetzte KI.
TELUS Digital, ein weltweit führendes Technologieunternehmen, das sich auf digitale Kundenerlebnisse (CX) spezialisiert hat, gab heute die Einführung seiner automatisierten Red-Teaming-Anwendung Fuel iX™ Fortify bekannt. Die Lösung hilft Unternehmen dabei, generative KI-Systeme (GenAI) in großem Maßstab zu testen und Schwachstellen zu identifizieren, indem sie reale Angriffsszenarien durch fortschrittliche Simulationstechniken nachbildet.
Sicherheitsbedenken sind ein wichtiger Faktor für Unternehmen, die GenAI einsetzen. Allerdings geben mehr als zwei Drittel der Unternehmen (67%) an, dass es ihnen an Cybersicherheitsexperten mangelt, um diese Probleme anzugehen. Diese Herausforderung unterstreicht die Bedeutung proaktiver Sicherheitsmaßnahmen, die Sicherheitsteams dabei helfen können, mit der rasanten Entwicklung der KI Schritt zu halten. Fuel iX Fortify führt innerhalb weniger Minuten Tausende von Angriffen auf KI-gestützte Assistenten, Copiloten und Anwendungen durch und hilft Unternehmen so, KI-Risiken aufzudecken, bevor sie ausgenutzt werden können.
Mit einer sich ständig weiterentwickelnden Datenbank mit Angriffstaktiken, -techniken und -verfahren, die auf den neuesten Forschungsergebnissen basiert, ist Fortify neuen Angriffsmethoden immer einen Schritt voraus und generiert für jede Sicherheitsbewertung neue Tests oder kann bestimmte Angriffe erneut ausführen, um sie im Zeitverlauf zu verfolgen. Die Gen AI Red-Teaming-App kann auch automatisch einzigartige Angriffsziele erstellen, die auf die Verhaltensrichtlinien eines Systems zugeschnitten sind. Damit ist sie speziell auf die Unvorhersehbarkeit von GenAI zugeschnitten, die bei jeder Frage unterschiedliche Antworten generieren kann.
«GenAI treibt die Transformation von Unternehmen voran, schafft aber gleichzeitig neue Sicherheitsrisiken, die ohne Schutzmaßnahmen das Vertrauen der Kunden untergraben, den Ruf der Marke schädigen, den Betrieb stören und Unternehmen regulatorischen Strafen aussetzen können», sagte Bret Kinsella, General Manager von Fuel iX bei TELUS Digital. «Red-Teaming-Fachwissen ist Mangelware, und viele Unternehmen haben Schwierigkeiten, die erforderlichen Mitarbeiter und die Zeit zu finden, um mit den sich entwickelnden Risiken Schritt zu halten. Fuel iX Fortify hilft, diese Lücke zu schließen, indem es KI-Sicherheitstests automatisiert und Schwachstellen frühzeitig aufdeckt, sodass Sicherheitsteams Risiken proaktiv mindern können. Wichtig ist, dass es auch für nicht-technische Anwender zugänglich ist und durch Forschung gestützt wird. Fortify wurde als Frühwarnsystem für KI-Sicherheit entwickelt, mit dem jeder Anwender jederzeit Risiken identifizieren kann, um Unternehmen die Gewissheit zu geben, dass sie ihre KI-Anwendungen verantwortungsbewusst einführen und skalieren.»
Unternehmensgerechte Funktionen von Fuel iX Fortify
Fuel iX Fortify unterstützt Unternehmen aller Branchen mit KI-Sicherheitsfunktionen, darunter
- Zugängliches Design: Dank der intuitiven Benutzeroberfläche können sowohl technische als auch nicht-technische Teams KI-Sicherheitstests durchführen.
- Hilfreiche Berichte: Dashboards und detaillierte Berichte bieten Benutzern einen klaren Überblick über die Schwachstellen jeder KI-Anwendung, sodass Sicherheitsrisiken leicht verständlich sind und entsprechende Maßnahmen ergriffen werden können.
- Nahtlose Integration: Kann mit einer Vielzahl von GenAI-Anwendungen gleichzeitig innerhalb einer einzigen Benutzeroberfläche verwendet werden.
- Erweiterte Generierung neuartiger und wiederholter Angriffe: Bleibt durch regelmäßige Updates auf Basis der neuesten Forschungsergebnisse über neue Bedrohungen und Angriffsmethoden auf dem Laufenden.
Einsatz von Fuel iX im Gesundheitswesen
Fuel iX Fortify wird bereits von einer öffentlich finanzierten Gesundheitsbehörde in Kanada eingesetzt, um ihren öffentlich zugänglichen Chatbot für Karriereberatung zu schützen. Der Bot bietet eine personalisierte, benutzerfreundliche Erfahrung und hilft Einzelpersonen dabei, Stellenangebote im Gesundheitswesen zu erkunden, ähnlich wie sie es mit einem Personalvermittler tun würden, wobei sichergestellt ist, dass er niemals medizinische Ratschläge oder schädliche Antworten gibt. Mit Fuel iX Fortify konnte der Kunde die Testzeit um 97% reduzieren, während die Einarbeitung von nicht-technischen Experten weniger als 30 Minuten dauerte.
Der Kunde erklärte:
«Fuel iX Fortify gab uns die Gewissheit, dass die Antworten unseres Chatbots sicher und angemessen waren und unseren Standards entsprachen. Wir stellten fest, dass manuelles Red Teaming langsam und in seinem Umfang begrenzt war und Fehlerquoten von bis zu 13% verursachte. Mit Fortify konnten wir unseren Chatbot vor der Einführung gründlich testen, sodass wir sicher waren, dass er keine schädlichen Antworten geben oder gegen Compliance-Vorgaben verstoßen würde. Mit dieser Gewissheit konnten wir verantwortungsbewusst starten, unseren Ruf schützen und eine positive, menschenähnliche Erfahrung für Menschen schaffen, die sich für eine Karriere im Gesundheitswesen interessieren.»
Fuel iX Fortify sichert die Zukunft der KI-Governance in Unternehmen
Da KI-Systeme zunehmend eine zentrale Rolle im Geschäftsbetrieb einnehmen, sind automatisierte, skalierbare Sicherheitstests unverzichtbar. Fuel iX Fortify ermöglicht es Unternehmen jeder Größe, ihre KI-Investitionen zu schützen. Mit regelmäßigen Updates und flexiblen Integrationsoptionen, die dazu beitragen, die Sicherheit der Systeme auch bei sich weiterentwickelnden Bedrohungen zu gewährleisten.
Fuel iX bietet eine vollständige Suite proprietärer KI-Produkte, darunter
- Fuel iX Copilots: Eine No-Code-Plattform für Unternehmensmitarbeiter zum Erstellen sicherer, benutzerdefinierter GenAI-Copilots, die Unternehmensdaten integrieren und teamübergreifend skaliert werden können.
- Fuel iX Agent Trainer: Eine KI-Simulations-App, die realistische Chat- und Sprachszenarien verwendet, um Kundendienstmitarbeiter zu schulen und ihre Leistung zu verbessern.
- Fuel iX Agent Assist: Ein KI-Assistent, der CX-Teams mit Zusammenfassungen, mehrsprachigen Funktionen und Echtzeit-Anleitungen unterstützt.
