Zwischen Effizienz und Vertrauen: Der Mensch im KI-Zeitalter

Herr Professor Helbing, Sie haben im Vorfeld zu diesem Gespräch gesagt, dass derzeit in der digitalen Transformation eher mehr Negatives als Positives zu beobachten sei. Was bereitet Ihnen aktuell am meisten Sorge?

Prof. Dr. Dirk Helbing: Ich glaube, dass wir das eigentliche Potenzial der Digitalisierung bislang weitgehend verfehlt haben. Bereits vor Jahrzehnten war klar, dass wir vor grossen Herausforderungen stehen, etwa im Umgang mit Ressourcen, bei der sozialen Ungleichheit oder bei der Nachhaltigkeit wirtschaftlicher Systeme. Digitalisierung hätte die Chance geboten, diese Probleme grundlegend neu anzugehen, weil sie gänzlich neue Formen der Organisation, der Koordination und Wissensverteilung ermöglicht.

Stattdessen beobachten wir in vielen Bereichen eine Entwicklung, die in eine andere Richtung geht. Wir sehen neue Abhängigkeiten, eine zunehmende Konzentration von Macht bei wenigen Akteuren und oft auch eine künstliche Verknappung von Ressourcen, etwa durch Plattformlogiken oder Datenmonopole. Gleichzeitig explodiert der Ressourcenverbrauch durch digitale Infrastrukturen, insbesondere durch datenintensive Anwendungen wie KI. Das heisst: Die Technologie hat enormes Potenzial, aber wir setzen sie häufig so ein, dass bestehende Probleme nicht gelöst, sondern teilweise sogar noch verstärkt werden.

Woran liegt das? Warum gelingt es uns nicht, dieses Potenzial anders zu nutzen?

Ein zentraler Punkt ist, dass wir häufig in bestehenden Denkmustern verharren. Wir übertragen bekannte Strukturen in die digitale Welt, anstatt sie grundlegend zu hinterfragen. Das bedeutet: Wir digitalisieren Prozesse, wir automatisieren Abläufe, wir machen Dinge schneller und effizienter, aber wir stellen selten die Frage, ob diese Prozesse überhaupt sinnvoll sind oder ob es bessere Lösungen für unsere Gesellschaft gibt.

Dabei liegt das eigentliche Potenzial der Digitalisierung gerade darin, Dinge neu zu erfinden und dabei die Limitationen des alten Systems zu überwinden. Wir könnten Systeme entwickeln, die partizipativer und fairer sind, die nachhaltiger funktionieren, die flexibler auf Veränderungen reagieren. Stattdessen sehen wir oft eine Art «digitale Kopie» bestehender Strukturen – nur eben effizienter und skalierbarer. Und genau das ist problematisch. Denn wenn die zugrunde liegende Logik nicht hinterfragt wird, dann verstärken wir mit Technologie genau die Probleme, die wir eigentlich überwinden müssten, weil das gegenwärtige System nicht nachhaltig ist, also auch nicht zukunftsfähig.

KI wird oft als Werkzeug gesehen, um Entscheidungen zu verbessern. Beobachten Sie tatsächlich bessere Entscheidungen oder beschleunigen wir vor allem bestehende Fehlentwicklungen?

Beides. KI kann dazu beitragen, bestehende Prozesse zu verbessern. Sie kann Muster erkennen, Vorhersagen treffen und in vielen Fällen auch Entscheidungen vorbereiten, die konsistenter oder schneller sind als menschliche Entscheidungen. Das Problem ist jedoch, dass diese Systeme auf Daten aus der Vergangenheit basieren. Sie lernen aus bestehenden Mustern und reproduzieren diese. Das bedeutet, dass sie nicht nur effiziente Lösungen finden, sondern oft auch bestehende Probleme, Verzerrungen, Ungleichheiten und Fehlentwicklungen fortsetzen.

Wenn wir also nicht sehr genau darauf achten, welche Ziele wir verfolgen und welche Daten wir verwenden, besteht die Gefahr, dass wir nicht bessere Entscheidungen treffen, sondern bestehende Probleme lediglich schneller und in grösserem Massstab reproduzieren. In diesem Sinne kann KI dazu beitragen, Fehlentwicklungen zu beschleunigen, anstatt sie zu korrigieren.

Sie sprechen von einem Perspektivfehler. Können Sie uns das genauer erklären?

Der Perspektivfehler besteht darin, dass heutige Lösungsansätze oft technologiegetrieben statt problemgetrieben sind. Unternehmen und Organisationen fragen sich oft:

• Was können wir mit unserer Technologie anstellen?
• Welche Prozesse lassen sich automatisieren?
• Mit welchen Anwendungen können wir Geld verdienen?

Inzwischen verbringen wir Stunden mit amüsanten Unterhaltungstools, aber viele Weltprobleme sind seit Jahrzehnten ungelöst. Die viel wichtigere Frage wäre daher: Welche Technologien und Anwendungen bräuchte es, um unser Problem zu lösen?

Wenn man diesen Perspektivwechsel nicht vollzieht, dann wird Technologie leicht zum Selbstzweck. Man entwickelt Anwendungen, weil sie Profite generieren, nicht weil sie notwendig oder sinnvoll sind. Das führt dazu, dass viel Aktionismus entsteht, aber nicht unbedingt ein echter Fortschritt im Sinne von besseren Lösungen für gesellschaftliche oder wirtschaftliche Herausforderungen.

Wenn Effizienz zum Risiko wird

Dann stellt sich die grundsätzliche Frage: Sollten wir denn überhaupt alles optimieren, was wir optimieren können?

Das ist aus meiner Sicht eine der zentralen Fragen im Umgang mit KI. Optimierung ist ein sehr mächtiges Konzept, aber es hat auch klare Grenzen. In technischen Systemen mit einer klar definierten Zielgrösse – etwa der Logistik oder Produktion – kann Optimierung sehr sinnvoll sein.

Gesellschaftliche Systeme jedoch sind anders. Sie sind komplex und verfolgen gleichzeitig viele verschiedene Ziele. Wenn wir versuchen, solche Systeme auf ein einziges Ziel hin zu optimieren, beispielsweise Effizienz oder Profitabilität, dann verlieren wir andere wichtige Dimensionen aus dem Blick (z. B. Solidarität, Gesundheit, Umwelt, Bildung oder Kultur). Das kann dazu führen, dass Systeme zwar technisch effizient funktionieren, aber übersimplifiziert und gesellschaftlich problematisch sind. Man könnte sagen: Sie sind optimal im mathematischen Sinne, aber nicht im menschlichen oder sozialen Sinne.

«Effizienz ist keine neutrale Kategorie. Wenn wir alles optimieren, verlieren wir genau das, was eine demokratische Gesellschaft und Menschenwürde ausmacht.»

Wo sehen Sie konkret die Grenzen dieser Logik?

Ein anschauliches Beispiel ist die Demokratie. Demokratie ist nicht darauf ausgelegt, maximale Effizienz zu erreichen. Sie arbeitet mit Prozessen, mit Diskussion, mit Kompromissen und auch mit Reibung. Aus einer rein technischen Perspektive könnte man sagen: Das ist ineffizient. Aber genau diese «Ineffizienz» ist notwendig, um grundlegende Werte zu schützen, beispielsweise Freiheit, Menschenwürde, Kreativität, Mitbestimmung und Fairness.

Wenn wir anfangen, solche Systeme rein nach Effizienz zu optimieren, besteht die Gefahr, dass wir genau diese Werte untergraben. Deshalb ist es wichtig zu verstehen, dass Effizienz nicht neutral ist, sondern immer auch eine normative Entscheidung beinhaltet.

Was bedeutet das für den Einzelnen? Verändert sich unsere Rolle im Umgang mit Entscheidungen?

Ja, das tut sie bereits. Wir sehen, dass Menschen zunehmend Entscheidungen an Systeme delegieren. Navigationssysteme, Empfehlungssysteme, automatisierte Prozesse. All das nimmt uns Entscheidungen ab oder strukturiert sie vor. Das kann einerseits entlastend sein. Andererseits besteht die Gefahr, dass Menschen zunehmend zu Ausführenden werden, die den Vorschlägen von Systemen folgen, ohne diese kritisch zu hinterfragen. Das Menschliche geht zunehmend verloren.

In der Philosophie spricht man in diesem Zusammenhang von «selbstverschuldeter Unmündigkeit». Wenn wir uns zu stark auf Systeme verlassen, verlieren wir die Fähigkeit oder auch die Bereitschaft, selbst zu entscheiden. Das hat langfristig Auswirkungen auf unsere Autonomie.

Sie beschäftigen sich intensiv mit komplexen Systemen. Was verändert sich, wenn Entscheidungen zunehmend in solchen Systemen getroffen werden?

Komplexe Systeme zeichnen sich dadurch aus, dass sie viele miteinander vernetzte Elemente enthalten, deren Wechselwirkungen nicht linear sind. Das bedeutet, dass kleine Veränderungen grosse und oft unerwartete Wirkungen haben können. Wenn wir Entscheidungen in solchen Systemen treffen, sozialen Medien beispielsweise, entsteht eine neue Qualität von Unsicherheit. Wir haben es dann nicht mehr mit klar nachvollziehbaren Ursache-Wirkungs-Beziehungen zu tun, sondern mit Dynamiken, die sich teilweise unserer Kontrolle entziehen.

Das sehen wir auch in vielen anderen Bereichen, etwa in Finanzmärkten oder in globalen Lieferketten. Diese Systeme können stabil erscheinen, aber anfällig für plötzliche Veränderungen oder Krisen sein.

Wenn Blackbox-Systeme das Vertrauen gefährden

Welche Rolle spielen dabei Blackbox-Systeme?

Eine sehr zentrale Rolle. Wenn Systeme so komplex sind, dass selbst ihre Entwickler nicht mehr vollständig nachvollziehen können, wie Entscheidungen zustande kommen, dann wird es schwierig, Verantwortung zuzuordnen oder Vertrauen aufzubauen. Gerade bei modernen KI-Systemen sehen wir, dass sie oft als Blackbox funktionieren. Sie liefern Ergebnisse, aber der Weg dorthin ist nicht transparent. Das ist problematisch, weil Vertrauen eng mit Nachvollziehbarkeit und Kontrolle verbunden ist. Wenn diese fehlen, entsteht Unsicherheit, sowohl auf individueller als auch auf gesellschaftlicher Ebene.

Was bedeutet diese Entwicklung für Vertrauen?

Vertrauen basiert auf mehreren Faktoren: auf Verlässlichkeit, Transparenz und der Möglichkeit, Einfluss zu nehmen. Wenn diese Faktoren schwächer werden, wird auch Vertrauen fragiler. Wenn Entscheidungen zunehmend in intransparenten Systemen getroffen werden, verlieren Menschen das Gefühl, die Prozesse verstehen oder beeinflussen zu können. Das kann dazu führen, dass Vertrauen nicht nur in Technologie, sondern auch in Institutionen und Organisationen abnimmt. Und genau das ist aus meiner Sicht eine der zentralen Herausforderungen: Wie gestalten wir Systeme so, dass sie nicht nur effizient sind, sondern auch vertrauenswürdig?

Wer trägt in einer solchen Situation die Verantwortung?

Die Verantwortung wird häufig auf die Nutzerinnen und Nutzer geschoben. Man sagt: Alle sind selbst verantwortlich für ihre Daten, für ihre Entscheidungen, für den eigenen Umgang mit Technologie. In der Praxis ist das jedoch nur begrenzt realistisch. Die Systeme sind so gestaltet, dass sie unser Verhalten subtil, gezielt und effektiv beeinflussen können. Sie nutzen Daten, um personalisierte Inhalte auszuspielen, Entscheidungen zu lenken und Aufmerksamkeit zu steuern. Deshalb liegt ein erheblicher Teil der Entscheidungen und der Verantwortung für sie bei denjenigen, die diese Systeme entwickeln und betreiben. Zugleich braucht es klare gesellschaftliche und politische Rahmenbedingungen, damit Verantwortung auch durchsetzbar ist.

Was bedeutet das für Beziehungen, insbesondere im Kontext von Unternehmen und Kund:innen?

Wenn Systeme zwischen Menschen treten, verändert sich die Qualität von Beziehung grundlegend. Es geht Menschlichkeit verloren. Vertrauen entsteht nicht abstrakt, sondern durch konkrete Erfahrungen, durch Interaktion, durch persönliche Begegnung. Wenn diese Interaktionen zunehmend durch automatisierte Systeme ersetzt werden, kann Beziehung oberflächlicher und funktionaler werden. Es entsteht weniger echte Bindung, sondern eher eine Art transaktionale Interaktion.

Das ist besonders relevant im Kontext von Unternehmen und Kund:innen. Die Frage ist: Führt mehr Automatisierung tatsächlich zu besseren Beziehungen, oder nur zu effizienteren Prozessen?

Hybride Intelligenz als Weg zu mehr Menschlichkeit

Gibt es denn überhaupt Alternativen zur aktuellen Entwicklung?

Ja, und ich halte es für entscheidend, diese aktiv zu gestalten. Ein Ansatz ist die sogenannte hybride Intelligenz. Dabei geht es darum, die Stärken von Menschen und Maschinen sinnvoll zu kombinieren. KI kann sehr gut darin sein, grosse Datenmengen zu analysieren und komplexes Wissen verfügbar zu machen. Menschen sind hingegen stark im Kontextverständnis, in Kreativität und ethischer Bewertung sowie bei sozialen und emotionalen Interaktionen. Wenn man diese Fähigkeiten kombiniert, können Systeme entstehen, die nicht nur effizient, sondern auch sinnvoll und verantwortungsvoll sind.

Was bedeutet das konkret für die Gestaltung von Systemen?

Ein wichtiger Punkt ist Partizipation. Menschen sollten nicht nur Nutzende von Systemen sein, sondern aktiv an deren Gestaltung beteiligt werden. Das kann dazu beitragen, dass unterschiedliche Perspektiven berücksichtigt werden und bessere Lösungen entstehen. Technologie kann dabei unterstützen, partizipative Prozesse zu organisieren und zu koordinieren. Aber die eigentliche Qualität entsteht durch die Interaktion der Menschen.

Zum Abschluss: Was muss passieren, damit Vertrauen in einer zunehmend automatisierten Welt bestehen bleibt?

Wir müssen einen bewussten Perspektivwechsel vollziehen. Technologie darf nicht Selbstzweck sein, sondern muss an menschlichen Bedürfnissen und Werten ausgerichtet werden. Das bedeutet konkret: mehr Transparenz, mehr Teilhabe, mehr Verantwortung. Und auch die Bereitschaft, nicht alles zu automatisieren, was technisch möglich ist.

Die entscheidende Frage ist letztlich nicht, was wir mit KI tun können, sondern wie wir Systeme gestalten, die Vertrauen verdienen und menschliche Beziehungen stärken, anstatt sie zu schwächen.