Seit dem 2. August 2026 gelten Transparenzpflichten für bestimmte KI-Systeme. Menschen sollen erkennen können, wenn sie unmittelbar mit künstlicher Intelligenz interagieren. Für Unternehmen im digitalen Kundendialog geht die praktische Aufgabe jedoch über einen blossen KI-Hinweis hinaus. Sie müssen verstehen, an welchen Stellen KI direkt kommuniziert, wo sie Mitarbeitende nur unterstützt und welche Erwartungen automatisierte Antworten erzeugen. Ebenso wichtig sind verständliche Grenzen: Kunden sollten erkennen können, was die KI leisten kann, wann ein Mensch übernimmt und wie ihre Angaben verwendet werden. Transparenz wird damit zu einer gemeinsamen Aufgabe von Recht, IT, Customer Experience, Service und Vertrieb.
Seit dem 2. August 2026 gelten die Transparenzpflichten des europäischen AI Act. Bei bestimmten KI-Systemen müssen Menschen erkennen können, dass sie direkt mit künstlicher Intelligenz interagieren. Für Unternehmen mit digitalen Kundendialogen klingt das zunächst nach einer überschaubaren Aufgabe: einen Hinweis ergänzen, die Kennzeichnung prüfen, fertig.
Doch was erfährt ein Kunde durch den Satz «Sie sprechen mit einer KI» tatsächlich? Er weiss, wer antwortet. Ob er der Antwort vertrauen kann, muss er weiterhin selbst einschätzen.
Diese Lücke ist im Kundenkontakt entscheidend. KI beantwortet Fragen, führt durch Prozesse und formuliert Einschätzungen. Je hilfreicher und persönlicher solche Antworten wirken, desto eher verlassen sich Menschen darauf. Unternehmen müssen deshalb klären, welche Erwartung sie mit einer KI-Interaktion wecken und ob sie diese Erwartung erfüllen können.
Was der AI Act sichtbar machen will
Artikel 50 des AI Act enthält Transparenzpflichten für bestimmte KI-Anwendungen. Dazu gehört, dass Menschen eine unmittelbare Interaktion mit einem KI-System erkennen können, sofern dies nicht ohnehin offensichtlich ist. Weitere Pflichten betreffen unter anderem bestimmte künstlich erzeugte oder veränderte Inhalte.
Daraus folgt keine pauschale Pflicht, jeden KI-Einsatz im Hintergrund gegenüber Kunden als Gespräch mit einer KI zu kennzeichnen. Ob ein System selbst mit Menschen kommuniziert oder lediglich Mitarbeitende bei ihrer Arbeit unterstützt, macht einen Unterschied. Ebenso kommt es darauf an, welche Rolle ein Unternehmen übernimmt und wie die Anwendung konkret eingesetzt wird.
Für die Praxis heisst das: Eine Liste eingekaufter KI-Produkte reicht nicht aus. Unternehmen müssen wissen, wo KI im Kundendialog auftaucht. Antwortet sie direkt im Chat? Führt eine künstliche Stimme durch ein Telefongespräch? Oder erstellt sie nur einen Entwurf, den ein Mensch prüft und versendet? Erst wenn dieser Ablauf klar ist, lässt sich beurteilen, welche Kennzeichnung erforderlich ist.
Ein Hinweis muss die Situation verständlich machen
Ein Kunde sollte nicht erst nach mehreren Nachrichten erkennen, dass er mit einem KI-System spricht. Ebenso wenig hilft ein allgemeiner Satz im Footer, wenn die eigentliche Interaktion an anderer Stelle stattfindet. Die Information muss dort ankommen, wo der Kontakt beginnt und Menschen entscheiden, ob sie sich auf ihn einlassen.
Die Formulierung ist dabei nur ein Teil der Aufgabe. Unternehmen sollten sich fragen, welchen Eindruck der gesamte Dialog vermittelt.
- Klingt eine automatische Antwort so, als habe ein Mitarbeiter den konkreten Fall bereits geprüft?
- Wird eine erste Einschätzung als sichere Lösung präsentiert?
- Ist erkennbar, wann ein Mensch übernimmt?
Gerade im Service kann eine KI eine einfache Frage schnell und gut beantworten. Problematisch wird es, wenn der Fall von den vorgesehenen Antworten abweicht und das System trotzdem mit derselben Sicherheit weiterspricht. Transparenz umfasst aus meiner Sicht deshalb auch eine ehrliche Grenze: Was kann diese Interaktion leisten, und wann braucht es jemanden, der nachfragt?
Was geschieht mit den Angaben der Kunden?
Der KI-Hinweis beantwortet noch eine weitere Frage nicht: Was passiert mit den Informationen, die Menschen während des Dialogs eingeben? Werden sie ausschliesslich für die aktuelle Antwort genutzt, für einen späteren Kontakt gespeichert oder an andere Systeme weitergegeben?
Die rechtlichen Pflichten zur Information über personenbezogene Daten sind gesondert vom AI Act zu prüfen. Für Kunden gehören diese Fragen jedoch zum selben Erlebnis. Sie schildern ein Anliegen und erwarten zu verstehen, wofür ihre Angaben verwendet werden. Ein korrekt gekennzeichneter KI-Dialog wirkt nicht vertrauenswürdig, wenn sein weiterer Zweck unklar bleibt.
Deshalb sollten Hinweise dem Ablauf folgen. Vor der Eingabe braucht es Klarheit über den Zweck der Fragen. Während des Dialogs muss erkennbar sein, wann KI antwortet. Und falls ein Mensch den Vorgang übernimmt, sollte nachvollziehbar sein, welche Informationen ihm vorliegen. Das lässt sich in verständlichen Sätzen erklären, ohne interne Prozesse oder technische Details offenzulegen.
Vertrauen lässt sich nicht einblenden
Viele Unternehmen werden die neuen Pflichten zunächst als Aufgabe für Recht und IT behandeln. Beide Bereiche sind wichtig. Im Kundendialog betrifft die Entscheidung aber auch Customer Experience, Service und Vertrieb. Sie gestalten die Momente, in denen Menschen einer Antwort folgen, Angaben machen oder um Unterstützung bitten.
Mein Massstab dafür ist einfach: Könnte ein Mitarbeiter dem Kunden in wenigen Sätzen erklären, wann KI beteiligt ist, was mit seinen Angaben geschieht und wo die Grenzen der Antwort liegen? Wenn das schwerfällt, braucht es meist mehr als einen besseren Hinweis. Dann muss der Ablauf selbst geklärt werden.
Transparenz kann für Unternehmen auch ein Vorteil sein. Wer eine KI-Interaktion verständlich einordnet, hilft Menschen, ihre Antwort angemessen zu nutzen. Kunden können bewusst entscheiden, ob ihnen die automatische Hilfe genügt oder ob sie mit einem Menschen sprechen möchten. Das schafft eine klarere Grundlage für den weiteren Kontakt.
Der AI Act verlangt bei bestimmten Anwendungen, KI sichtbar zu machen. Vertrauen entsteht, wenn Unternehmen auch Verantwortung für die Situation übernehmen, in der Menschen dieser KI begegnen.
