EU AI Act: Was jetzt für KI im Kundenkontakt gilt

Am 2. August 2026 steht für die Interaktion zwischen von Unternehmen eingesetzten KI-Anwendungen und deren Kunden ein entscheidender Moment bevor: An diesem Tag treten die Transparenzpflichten des EU-KI-Gesetzes (AI Act) in der gesamten Europäischen Union in Kraft. Dies ist nicht bloß eine weitere Frist; es ist das Signal dafür, dass die Einhaltung der KI-Vorgaben zu einem zentralen operativen Bestandteil für jedes Unternehmen wird, das mittels KI-Systemen mit seinen Kunden kommuniziert. Jahrelang wurde die regulatorische Debatte von Themen wie Datenschutz und Hochrisiko-KI-Modellen dominiert. Die Herausforderung für Unternehmen besteht nun darin, die gesetzlichen Anforderungen zu erfüllen, ohne dabei Reibungsverluste im Ablauf zu verursachen.

Alexandros Koronakis, Senior Director und Head of Government, Policy & Regulatory Affairs EMEA bei Twilio, erläutert die Konsequenzen, Herausforderungen und Chancen des EU AI Act für den Einsatz von KI in der Kommunikation zwischen Unternehmen und Kunden:

Laut Ada haben bereits 86% der Fachkräfte im Kundenservice KI-Systeme in ihren Arbeitsabläufen getestet oder implementiert, und McKinsey zufolge könnte generative KI die Anzahl der Kontakte, die einen menschlichen Mitarbeiter erfordern, in Contact Centern um bis zu 50% reduzieren. Der Großteil der Kundeninteraktionen – sei es per Sprache, Chat, E-Mail oder durch automatisierte Benachrichtigungen – wird bereits von KI-Systemen gesteuert oder unterstützt. Genau hier setzt Phase 2 des KI-Gesetzes an: Artikel 50 schreibt vor, dass KI-generierte Inhalte – seien es Nachrichten, synthetische Stimmen oder Videos – als solche gekennzeichnet werden müssen. Auch KI-generierte Inhalte, die als Deepfake eingestuft werden könnten, unterliegen dieser Kennzeichnungspflicht.

Was zunächst wie eine rein technische Anforderung erscheinen mag, stellt in Wirklichkeit einen strategischen Wandel dar.

Unternehmen, die im Kundenkontakt Systeme für dialogorientierte oder generative KI einsetzen, unterliegen teilweise Kennzeichnungs- und Offenlegungspflichten. Sowohl ein Sprachassistent für den Kundendienst nach dem Kauf (bei einem Telekommunikationsanbieter) als auch ein Tool zur Erstellung von Marketingbotschaften in Echtzeit fallen nun in den Anwendungsbereich der Regulierung.

KI ist grundsätzlich ein wertvolles Instrument zur Verbesserung des Kundenerlebnisses (CX). Damit sich Kunden jedoch bei der Interaktion rundum wohlfühlen, müssen wir transparente Kommunikation mit einem nahtlosen, jederzeit verfügbaren Weg zur Weiterleitung an einen menschlichen Mitarbeiter sowie geeigneten Offenlegungsmechanismen kombinieren; so wird sichergestellt, dass Kunden erkennen, dass sie es mit einer KI zu tun haben. Ziel ist es, ein transparentes KI-Umfeld zu schaffen, das ohne irreführende, intransparente oder ohne Zustimmung der Nutzer erfolgende Praktiken auskommt.

Die KI-Wertschöpfungskette ist eine Kette der Verantwortung

Der EU AI Act unterscheidet zwischen «Anbietern», die ein KI-System entwickeln und unter eigener Marke auf den Markt bringen, und «Anwendern» (Deployern), die diese Systeme in ihre Betriebsabläufe integrieren. In der Praxis verschwimmen diese Grenzen jedoch zunehmend, und viele Unternehmen sind irgendwo dazwischen angesiedelt. Eine wachsende Zahl von Unternehmen integriert LLMs von Drittanbietern über APIs, um eigene KI-basierte Dialogschnittstellen zu entwickeln oder KI-Agenten zu unterstützen; damit agieren sie als nachgelagerte Anbieter dieser generativen KI-Systeme.

Es wäre jedoch ein Fehler zu glauben, die Verantwortung liege allein beim Entwickler des zugrundeliegenden Modells. Artikel 50 des EU AI Act schreibt vor, dass Anbieter von Systemen der generativen KI (GenAI) ihre KI-generierten Inhalte als solche kennzeichnen und ihre Systeme so gestalten müssen, dass Nutzer darüber informiert werden, dass sie mit einer KI interagieren. Anwender sind verpflichtet, die KI-generierten Inhalte entsprechend zu kennzeichnen. All dies erfordert Zusammenarbeit und technische Vorbereitungen seitens der Modellanbieter.

Ein konkretes Beispiel: Ein Finanzdienstleister, der einen KI-Sprachassistenten zur Qualifizierung eingehender Leads einsetzt, ohne die Nutzer bereits bei der ersten Interaktion ausdrücklich darauf hinzuweisen, dass sie es mit einem automatisierten System zu tun haben, verstößt ab dem 2. August 2026 gegen Artikel 50. Die Sanktionen können bis zu 15 Millionen Euro oder 3% des Umsatzes betragen. Für Plattformen zur Kundeninteraktion ist diese Rückverfolgbarkeit kein bloßes Nebenprodukt, sondern wird zu einem wesentlichen Bestandteil der Compliance-Infrastruktur.

Compliance als Vertrauensbasis

Angesichts dieser Ausgangslage kristallisieren sich zwei Strategien heraus. Die erste betrachtet den EU AI Act lediglich als eine Einschränkung, mit der man sich arrangieren muss. Die zweite – der Ansatz von Marktführern – erkennt an, dass regulatorische Transparenz einem tief verwurzelten Bedürfnis der Verbraucher entspricht. Die Zahlen sprechen für sich: 61% der Verbraucher glauben nicht, dass Marken ihre Daten in ihrem Sinne nutzen. Dieser Vertrauensverlust ist kein abstraktes Problem für das Unternehmensimage; er wirkt sich direkt auf das Kundenengagement, die Einwilligung und den Kundenwert aus.

Unternehmen, denen es gelingt, transparente und kontrollierte KI-Anwendungen zu demonstrieren, profitieren von einem messbaren Wettbewerbsvorteil.

Dies erfordert «Compliance by Design»: Die Integration von Anforderungen an Kennzeichnung, Rückverfolgbarkeit und Nutzerinformation muss von Anfang an erfolgen – und nicht erst nachträglich. Genau hier spielt der Sektor für Kommunikations- und Kundeninteraktionsplattformen eine zentrale Rolle, indem er sicherstellt, dass die Infrastrukturen für Kundeninteraktionen die gesetzlich geforderten Transparenzmechanismen bereits nativ integrieren. Diese Verantwortung erstreckt sich über den gesamten KI-Technologie-Stack. Sie setzt voraus, dass Modellanbieter, Anbieter generativer KI (z. B. KI-Sprachassistenten) und Unternehmen, die diese KI-Funktionen direkt beim Kunden einsetzen, als vertrauenswürdige Partner agieren, die eine gemeinsame Vision von Transparenz und exzellenter Compliance verfolgen.

Hierbei spielen der Verhaltenskodex zu Artikel 50 und die dazugehörigen Leitlinien eine entscheidende Rolle. Klar definierte Anforderungen – die den aktuellen Stand der Technik berücksichtigen und zugleich Raum für künftige Innovationen lassen – sowie ein besseres Verständnis der Regelanwendung über den gesamten KI-Stack hinweg ermöglichen es Unternehmen, Transparenz bereits bei der Produktentwicklung («by Design») zu verankern.

Für innovative Vorreiter, die KI strategisch in ihre Kundenbeziehungen integrieren, ist das Inkrafttreten der Transparenzpflichten des EU AI Act weit mehr als nur eine regulatorische Aufgabe. Es ist eine Chance, das Kundenerlebnis neu zu definieren und eine Vision zu verwirklichen, in der KI das Vertrauen stärkt und Reibungsverluste beseitigt, um so ein herausragendes Gesamterlebnis (CX) zu schaffen. In einem Umfeld, in dem digitales Vertrauen zu einem strategischen Wettbewerbsfaktor wird, zielen vorausschauende Marktführer nicht bloß auf die Einhaltung von Vorschriften ab. Sie setzen Maßstäbe.