• Die Plattform für Customer Relations Stars sowie CX & Service Champions

 

Mit Zukunftsbildern gelingt der Sprung nach vorn

Kundenloyalität im Wandel

Das Beste aus beiden KI Welten kombiniert - Generative AI und Conversational AI ergänzen sich

Die Grenzen grosser Sprachmodelle: Wegweisende Technologie ist kein Alleskönner

Swiss Customer Relations Award 2024: Neue Projekte, neue Chancen

Zendesk stellt umfassendste Kundenservice-Lösung für KI-Zeitalter vor

Toolkit der Digital Natives: Was die Generation Z im Sales anders macht

EU AI Act hat überwiegend positive Auswirkungen auf KI-Einsatz

Editor's Pick

Datenschutz in der CX

cmm360 - 21. März 2024

Podcast über analytische KI & smarte Entscheidungen

Meike Tarabori - Chefredaktion - 19. März 2024

Top Story, KI, News, ChatGPT, Generative KI (GenAI), Large Language Model (LLM)

Die Grenzen grosser Sprachmodelle: Wegweisende Technologie ist kein Alleskönner

cmm360 - 7. März 2024

Mindbreeze verdeutlicht Potenziale und Limitationen von grossen Sprachmodellen, die als wichtige Deep-Learning-Modelle im Bereich der generativen KI im Einsatz sind. 

Large Language Models (LLMs) sind voll im Trend. Ob privat oder in Unternehmen, auf LLMs basierende Chatbots wie beispielsweise ChatGPT von OpenAI generieren mit Deep-Learning-Modellen Texte in menschenähnlicher Weise. Auf Basis von massiven Mengen von Textdaten trainiert, können sie so auf viele Fragen Antworten liefern und Befehle ausführen.

Unternehmensentscheider prüfen momentan, welche Vorteile diese Sprachmodelle für ihre Organisation haben und wie man sie so schnell wie möglich implementieren kann. Konfrontiert sind sie dabei jedoch mit einer Lösungslandschaft, die teils ungeheure Use Cases verspricht und die LLM-basierte Tools als “Alleskönner” betiteln.

Für ein besseres Verständnis erläutert Mindbreeze, ein international führender Anbieter von Appliances und Cloud-Services für Enterprise Search, angewandte künstliche Intelligenz und Wissensmanagement, wo die Technik ihre Grenzen hat und in welcher Nutzungsweise sie überhaupt im Geschäftskontext Sinn ergibt.

Ausgangsbedingungen und Einsatzzweck abwägen

Sinnhaft ist der Einsatz eines LLM-basierten Tools nur dann, wenn die digitale Transformation eines Unternehmens auch eine Infrastruktur für die vernünftige Implementierung bereitstellt. Auch müssen die Einsatzbereiche der Technologie im Unternehmen festgelegt werden, in denen sie einen echten Mehrwert schafft – beispielsweise in der Kundenkommunikation oder im Vertrieb.

Die folgenden vier Punkte zeigen, wie eine zweckmässige Implementierung von LLMs aussieht und für welche Aufgaben sie im Unternehmen eher ungeeignet sind.

1. Automatisierte Verarbeitung grosser Datenmengen und Texte 

LLMs verfügen über die Fähigkeit, grosse Mengen an Textdaten schnell und effizient zu verarbeiten. Damit punkten sie als wertvolles Werkzeug für Aufgaben wie das Textmining und die Datenanalyse. Zu den typischen Einsatzfeldern gehören neben der Durchführung von Datenanalysen, die Erstellung von Berichten und die Beantwortung von Kundenanfragen. Diese Art der Automatisierung vermeidet menschliche Fehler und führt potenziell zu erheblichen Kosteneinsparungen. Wenn Unternehmen ein LLM zur Automatisierung dieser Aufgaben nutzen, lassen sich aufwendige manuelle Arbeitsschritte einsparen.

2. Massgeschneidert für konkrete Einsatzszenarien 

LLMs überzeugen durch die Möglichkeit, sie breit in den unterschiedlichsten Geschäftsbereichen mit spezifischen Geschäftsanforderungen einzusetzen. Eine zusätzliche Antwortschärfung kann beispielsweise mit RAG (Retrieval-Augmented-Generation) erreicht werden. RAG bietet eine Möglichkeit, die Leistung eines LLMs durch gezielte Informationen zu verbessern, ohne dabei das zugrunde liegende Modell selbst zu verändern. Je detaillierter und geschärfter das LLM, desto besser die generierte Antwort und damit auch die Relevanz für Anwender. Öffentliche Modelle wie ChatGPT, Microsoft Copilot oder Google Bard, haben meist keinen Zugang zu internen Unternehmensdaten, die Anwender beispielsweise zum Erstellen eines Angebots brauchen.

3. Wahrscheinlichkeiten sind keine Wahrheiten 

Der Output eines LLMs erfolgt auf Basis von Wahrscheinlichkeiten, nicht unter Berücksichtigung des Wahrheitsgehalts. Wenn es nämlich lediglich berechnet, welches Wort wahrscheinlich als Nächstes folgt, kann es zu unwahren Aussagen kommen, die man auch als „Halluzination“ bezeichnet. Diese können teilweise verblüffend wahr in ihrer Formulierung klingen, sodass ein Fehler nicht beim ersten Hinsehen entdeckt werden kann. Unternehmen können das einschränken, indem sie dem Sprachmodell einen Kontext für die Antwortfindung bieten, wie beispielsweise eine Auswahl an Textdokumenten. Generieren LLMs nur Antworten aus ausgewählten Daten, ist das Risiko für Halluzinationen bereits reduziert.  

4. Kein Mehrwert ohne geeignete Datenbasis

Die Versuchung ist gross, LLMs sofort einzusetzen, blickt man auf die Vorteile, die LLMs mit sich bringen.  Allerdings verfehlen selbst die besten KI-gesteuerten Tools ohne geeignete Datenbasis ihren Zweck. Hintergrund: Die Fähigkeit einer KI richtige Antworten zu geben, hängt von der Qualität der Daten ab, aus denen sie Informationen bezieht. Hinzu kommt die Frage nach der erforderlichen IT-Infrastruktur, um ein LLM effektiv zu nutzen. Um also nachhaltig die Weichen für eine effiziente Nutzung zu stellen, ist es wichtig Innovationen im Blick zu behalten und die Digitalisierung grundsätzlich im Unternehmen voranzutreiben.

Dass LLMs ihren Anwendern in vielen Einsatzszenarien schon heute grossen Mehrwert bieten, zeigt die Praxis. Dennoch belegen die geschilderten Punkte, warum es darauf ankommt, die Grenzen der Technologie vor der Nutzung im Arbeitsalltag genau zu kennen. Daher ist es für Unternehmen von Vorteil, vor dem Einsatz generativer Sprachmodelle erfahrene Partner an Bord zu holen, die sie bei der Implementierung beraten und unterstützen. 

 

##

Über Mindbreeze

Mindbreeze ist ein führender Anbieter von Information Insight und Wissensmanagement, mit Unternehmenshauptsitzen in Zentraleuropa sowie Nordamerika sowie einem weltweit agierenden Partnernetzwerk. Das Produkt Mindbreeze InSpire nutzt Methoden der künstlichen Intelligenz (KI) wie maschinelles Lernen und neuronale Netze sowie natürliche Sprachverarbeitung, um Unternehmen beim Analysieren, Verstehen und effizienten Vernetzen ihrer Unternehmensdaten zu unterstützen. 

 

Top Event

SCRF2024-Early-Bird-extended_750x422_w
Weisser Text als Abstand
Weisser Text als Abstand

Zu den aktuellsten News Dossiers