Wenn der Kunde kein Kunde ist: Die Gefahr von Deep Fakes

Die rasante Entwicklung von KI stellt für den Kundenservice eine weitere Herausforderung dar: Die Gefahr, dass Kunden gar keine Kunden sind. Gerade bei Telefongesprächen kann sich kaum ein Unternehmen mehr sicher sein, dass die Person, mit der man spricht, auch wirklich diejenige ist, für die sie sich ausgibt.

Deep Fakes sind heute so einfach herzustellen, wie es früher war, eine Unterschrift zu scannen, und das in Audio- und Videoqualität. Das bekam bereits 2024 ein Angestellter in der Buchhaltung des Ingenieurbüros Arup in Hongkong zu spüren. Er war in einem Videocall mit Kollegen und – so dachte er – mit dem Finanzchef des Unternehmens. Er kannte alle Gesichter und autorisierte einen Banktransfer in Höhe von 26 Millionen Dollar. Kurz darauf fand die Zentrale heraus, dass es sich um einen Fake gehandelt hat.

Dass Stimmen gefälscht werden können, ist nicht wirklich neu, wir kennen das Tuch über dem Hörer aus vielen Krimis. Doch nun kann eine Stimme so repliziert werden, dass selbst beste Freunde keinen Unterschied mehr hören. Und auch Videos sind kein Garant mehr für Echtheit. Längst gibt es Webseiten, die anbieten, einen gefälschten Avatar zu schaffen, der dann von Kriminellen frei verwendet werden kann.

Deep Fakes machen klassische Identitätsprüfungen unsicher

Wer also heute einen Kunden an der Leistung hat, braucht weitere Identifizierungsmöglichkeiten. Sicherheitsabfragen sind natürlich ein guter Schutz, aber nicht, wenn das Konto des Kunden bereits gehackt wurde. Gerade dort, wo Stimmprofile als Sicherheitsmaßnahme hinterlegt sind, werden Unternehmen umdenken müssen.

Aktuellen Daten zufolge sind Deepfake-gestützte Voice-Phishing-Angriffe allein in den USA im ersten Quartal 2025 um über 1.600% gegenüber dem Vorquartal angestiegen. Weltweit sind Betrugsversuche mittels Deep Fakes in den letzten drei Jahren um 2.137% gestiegen. Heutzutage ist jeder 127. Anruf in einem Contact Center betrügerisch.

Dafür reichen die Stimme auf dem Anrufbeantworter, ein Ausschnitt aus einem Podcast, ein kurzes LinkedIn-Video oder ein TikTok-Beitrag. Aus diesem Beispiel können KI-Tools eine Echtzeitstimme generieren, die in einem Live-Telefonat als die des ursprünglichen Sprechers durchgeht. Betrug mit synthetischen Stimmen stieg allein in der Versicherungsbranche im Jahr 2025 um 475%. Zudem sind die Werkzeuge dafür nicht mehr nur hochentwickelten kriminellen Organisationen vorbehalten – sie sind auf «Fraud-as-a-Service»-Marktplätzen verfügbar und werden als fertige Pakete an jeden verkauft, der bereit ist zu zahlen.

So können Kriminelle mit einem Stimmenklon heute versuchen, am Konto eines Kunden Änderungen vorzunehmen, wie Passwörter oder Telefonnummern. Das geschieht in den USA wesentlich häufiger als in Europa, wo es mehr Sicherheitsabfragen gibt. Mitarbeiter im Kundencenter können aber noch auf andere Weise ausgetrickst werden: Indem der Anrufer vorgibt, ein Vorgesetzter oder Kollege zu sein. Gerade bei Überweisungen kann das wie bei der Firma in Hongkong teuer werden. Es können aber auch schlicht Informationen eingeholt werden, die zum Beispiel für einen Wettbewerber interessant sind.

Und mit selbstständig agierenden Agenten können Angreifer heute Hunderte gleicher Anfragen machen, bis eine erfolgreich ist. Mitbewerber können zum Beispiel mit Fake-Profilen, die alle legitim klingende Fragen stellen, ein Kundencenter lahmlegen – und echte Kunden kommen nicht mehr durch,

KI-Betrug im Kundencenter: Neue Risiken erfordern neue Schutzmaßnahmen

Die Stimme darf nicht länger als Identitätsnachweis betrachtet werden. Jede Anfrage mit hohem Wert – Kontoänderungen, Umleitungen von Zahlungen, SIM-Karten-Wechsel, Zurücksetzen von Passwörtern – muss eine mehrstufige Verifizierung erfordern: einen Rückruf an eine registrierte Nummer, eine PIN oder eine zeitverzögerte Bestätigung über einen anderen Kanal. Das klassische «Ich rufe sie zurück» wäre eine Möglichkeit.

Mitarbeiter müssen aber auch Indikatoren für Deep Fakes geschult werden: ungewöhnliche Dringlichkeit, Anfragen zum Überspringen normaler Abläufe, leichte zeitliche Unstimmigkeiten beim Sprechen, Widerstand gegen zusätzliche Verifizierungsschritte. Gesunde Skepsis ist wichtiger denn je.

Ein Beispiel, wie man gerade interne Kommunikation überprüfen kann, zeigte ein Fall bei Ferrari: Im Juli 2024 erhielt eine Führungskraft des Autobauers mehrere WhatsApp-Nachrichten, die scheinbar vom CEO Benedetto Vigna stammten. Die Nachrichten von einer unbekannten Nummer erwähnten eine bevorstehende große Übernahme, drängten die Führungskraft, sofort eine Geheimhaltungsvereinbarung (NDA) zu unterzeichnen.

Als ein Anruf folgte, war die Stimme, die Vigna imitierte, überzeugend. Die Führungskraft wurde misstrauisch und stellte dem Anrufer eine persönliche Frage: Wie hieß das Buch, das Vigna ihm kürzlich empfohlen hatte? Daraufhin wurde das Gespräch abrupt beendet. Der Betrug scheiterte nur dank menschlicher Intuition und eines persönlichen Details, das keine KI hätte wissen können.

Laut der KPMG Cybersecurity Studie 2024 stiegen Deep Fake-Angriffe allein in Österreich im Vorjahr um 119%. Ähnliche Trends werden auch in Deutschland und der Schweiz dokumentiert.

In Deutschland wurden 2025 mehrere Fälle gemeldet, bei denen Führungskräfte durch gefälschte Videoanrufe zu Überweisungen manipuliert wurden. Die meisten dieser Fälle kamen nicht an die Öffentlichkeit , da die betroffenen Unternehmen Reputationsschäden fürchten. Dies schafft einen Teufelskreis: Weil niemand darüber spricht, unterschätzen andere Unternehmen das Risiko.

Verbreitet ist auch die Reklamationsattacke. Diese Angriffe basieren auf einer Kombination aus Automatisierung und Social Engineering, um gezielt Schwachstellen in Kundenservice-Systemen auszunutzen. Der Prozess beginnt mit der Informationsbeschaffung, bei der Kriminelle Datensätze mit gültigen Bestellnummern und Kundennamen erwerben. Mithilfe dieser Daten setzen sie KI-gestützte Tools ein, um Stimmen zu trainieren, die täuschend echt klingen und beispielsweise als höfliche, verzweifelte oder fordernde Kunden auftreten können.

Anschließend setzen die Angreifer automatisierte KI-Sprachbots ein, die rund um die Uhr Einzelhandels- und Servicezentren kontaktieren. Diese Bots umgehen komplexe Sicherheitsbarrieren, indem sie gezielt Mitarbeiter identifizieren, die erfahrungsgemäß schnell Rückerstattungen genehmigen, ohne eine umfassende Verifizierung durchzuführen. Das Ziel ist schließlich der «Payout»: Der Bot überzeugt den Agenten, die Rückerstattung auf eine alternative Zahlungsmethode oder ein digitales Wallet umzuleiten.

Je mehr im Kundencenter automatisiert wird, desto größer werden die Sicherheitsanforderungen. Gerade wenn kriminelle Bots mit Kundencenter-KI-Agenten «sprechen» besteht eine große Gefahr, dass sie auch durchkommen. Umso wichtiger ist eine ständige menschliche Aufsicht.