KI gestalten heisst Mensch bleiben

Ingenieurin, Autorin, Tech-Vordenkerin: Kenza Ait Si Abbou spricht darüber, warum Künstliche Intelligenz mehr ist als ein Technologie-Thema. Im Gespräch erklärt sie, wie jede:r von uns Algorithmen beeinflusst, weshalb Unternehmen Mut zum Experimentieren brauchen und weshalb Empathie unsere wichtigste Zukunftskompetenz bleibt.

Kenza, wenn Leute dich nach deinem Job fragen, gerade, wenn sie wenig mit Technologie zu tun haben: Wie erklärst du, was du tust und worum es bei KI eigentlich geht?

Kenza Ait Si Abbou: Ich antworte dann immer gern ganz offen, dass ich vieles bin, aber vor allem ein neugieriger Mensch. Mich treibt seit jeher die Lust am Lernen und Entdecken an. In meinem Job als Ingenieurin und Führungskraft in Tech-Unternehmen und meiner Arbeit als Autorin dreht sich fast alles um eines: Wie können wir Technologie, im Speziellen Künstliche Intelligenz, so gestalten, dass sie für uns Menschen einen echten Mehrwert bringt? Denn das Entscheidende ist für mich, dass es in meinen Augen, nicht reicht, nur zu wissen, wie die Technik funktioniert. Wir alle müssen verstehen, wo sie sinnvoll ist, wie sie wirkt und welche Verantwortung damit einhergeht. Das versuche ich Menschen, ob meiner eigenen Großmutter oder Vorständen, nahezubringen.

Was fasziniert dich persönlich an Künstlicher Intelligenz und wie bist du selbst zu dem Thema gekommen?

Ich habe schon als Kind Mathematik geliebt und immer wieder hinterfragt, was man mit Zahlen, Daten und Logik erreichen kann. Die Magie war, als ich im Studium – das war Anfang der 2000er, lange vor dem Hype – erstmals mit neuronalen Netzen in Berührung kam. Unser Professor erzählte, wie man mit diesen Methoden sogar Krankheiten wie Brustkrebs erkennen kann. Ich fand es unfassbar, dass mathematische Modelle so großen Einfluss auf unser Leben haben können. Seitdem hat mich das Thema nicht mehr losgelassen. Und heute, nach zwei Jahrzehnten Entwicklung, ist KI einfach überall, nicht mehr nur in Laboren, sondern im Alltag, in jedem Smartphone, in der Industrie, in der Medizin. Mich fasziniert, welche Möglichkeiten entstehen, aber auch, wie wir diese Technologien verantwortungsvoll und menschlich einsetzen.

KI ist längst Alltag. Warum hältst du es für so wichtig, dass alle, das heißt nicht nur Expert:innen, ein Grundverständnis für KI entwickeln?

Tatsächlich begegnet uns KI heute fast überall, oft unbemerkt. Ob Sprachassistenz, personalisierte Empfehlungen in Social Media oder smarte Uhren – überall steckt KI drin. Genau deswegen sollte niemand denken, dass dies einen nicht betrifft. Selbst, wenn ich nur auf Instagram oder TikTok unterwegs bin, interagiere ich mit Algorithmen, die auf KI beruhen. Sie bestimmen, was ich sehe oder wie Inhalte gefiltert werden. Es geht gar nicht darum, dass wir jetzt programmieren lernen müssen. Viel wichtiger finde ich, dass wir die grundlegenden Prinzipien verstehen, um so informierter entscheiden, Inhalte smarter einordnen und auch mitgestalten, sei es als Konsument oder im Job. Nur dann ist ein verantwortungsvoller, kritischer Umgang möglich.

Was meinst du, wie kann jede:r als Privatperson KI mitgestalten oder Risiken bewusst steuern?

Unser Einfluss als Nutzer:innen, gerade in sozialen Medien, ist nicht zu unterschätzen! Jeder Klick, jedes Like oder jeder Kommentar beeinflusst die Algorithmen, sprich: Wir trainieren sie mit. Dabei geht es nicht nur darum, was wir gut finden, sondern auch darum, wie sich Falschinformationen, Deepfakes oder manipulative Inhalte verbreiten. Die große Gefahr ist, dass unser Gehirn digitale Inhalte oft genauso ernstnimmt wie analoge. Wir sind evolutionär so «programmiert», Vertrauen zu schenken. Doch in der digitalen Welt müssen wir viel kritischer hinterfragen. Mein Appell ist daher, dass wir bei emotionalen Inhalten innehalten, nicht sofort liken oder teilen, sondern recherchieren und fragen, ob das überhaupt stimmen kann. Damit verhindern wir, dass wir unbewusst Desinformation weiterverbreiten. Verantwortung heißt also auch, nicht nur Konsument:in zu sein, sondern auch mitzudenken!

Und wie sieht das Ganze auf Unternehmensseite aus? Was sollte ein Unternehmen beachten, das KI sinnvoll und zukunftsorientiert einsetzen will?

Die gute Nachricht ist, dass heute fast alle Unternehmen Ideen für KI-Projekte haben. Die Herausforderung ist also weniger das «Was?», sondern das «Wie?». Viele Unternehmen fokussieren sich schnell auf einzelne Anwendungen, dabei ist die eigentliche Basisarbeit entscheidend: Datenqualität, Governance, die richtige IT-Infrastruktur, klare Verantwortlichkeiten. Es braucht eine klare Strategie, die offen ist für Veränderungen, denn die Technologie entwickelt sich ständig weiter.

Ich beobachte, dass eine Mischung aus zentralen Steuerungsteams und dezentralen Expert:innen in Fachbereichen besonders gut funktioniert. Fachbereiche kennen die echten Use Cases, das zentrale Team sorgt für Skalierung, Regulierung und übergreifende Standards. Wichtig ist außerdem, dass die Belegschaft eingebunden, geschult und mitgenommen wird. Denn nur dann entstehen nachhaltige Innovationen. Und früher oder später kommt man um das Thema EU-AI-Act und regulatorische Anforderungen nicht herum. Ohne solide Governance wird es langfristig nicht funktionieren.

Apropos Regulierung: Der EU-AI-Act sorgt für viel Diskussion. Wie bewertest du die europäischen Regelungsbemühungen im internationalen Vergleich?

Ich empfinde es als wichtig, hier einmal die Philosophie dahinter zu verstehen. Europa geht bei der Regulierung seinen eigenen, werteorientierten Weg, bei dem Privatsphäre, Verbraucherschutz und Demokratie ganz oben stehen. Der AI-Act ist unser Versuch, technologische Entwicklung mit gesellschaftlicher Verantwortung in Einklang zu bringen. Das kann aufwendig und manchmal sogar unbequem für Unternehmen wirken, aber ich glaube, es ist der richtige Ansatz. Natürlich gibt es keinen «globalen Standard», wie mit KI umgegangen werden sollte, jedes Land hat seine eigenen Werte, seinen Kulturraum. Aber wer in Europa Geschäfte machen will, muss sich an unsere Regeln halten.

Entscheidend wird sein, ob wir die Regulierung Innovation tatsächlich stärken und nicht abwürgen. Das richtige Maß zu finden, ist die Kunst. Dennoch bin ich überzeugt: Ohne Rahmenwerk riskieren wir, dass KI-Giganten ohne Rücksicht agieren. Es braucht Leitplanken, damit aus Technologie Fortschritt für alle wird.

Was sind aus deiner Sicht die größten Herausforderungen beim Thema Budget und Wirtschaftlichkeit von KI-Projekten im Unternehmen?

Das unterscheidet sich sehr stark von klassischen IT-Projekten! In der KI geht es oft um Iteration, Ausprobieren, auch ums Scheitern. Das ist für viele Budgetverantwortliche schwer zu akzeptieren. Es gibt keinen festen Projektabschluss, sondern einen dauernden Verbesserungsprozess. Häufig müssen zuerst Daten gesammelt, Strukturen aufgebaut, Modelle getestet und wieder verworfen werden. Das kostet Zeit und Geld, der Return on Investment lässt sich oft erst nach Monaten oder Jahren absehen. Das ist für CFOs frustrierend, aber notwendig.

Ich finde, Unternehmen sollten Mut für Experimente aufbringen und auch Fehlschläge als Investition ins Lernen akzeptieren. Es ist wie bei Innovation generell: Wenn wir nicht ausprobieren, lernen wir nie, wie weit KI wirklich trägt und was möglich ist. Es braucht mehr Flexibilität und ein Verständnis für den besonderen Charakter von KI-Vorhaben.

Verantwortung ist ein zentrales Stichwort. Was verstehst du unter einer verantwortungsvollen Zukunft im Umgang mit KI, aus Sicht der Unternehmen und auch für die Gesellschaft?

Für Unternehmen bedeutet Verantwortung vor allem, Produkte so zu entwickeln, dass niemandem Schaden zugefügt wird. Es geht darum, Missbrauch möglichst zu erschweren, ebenso wie darum, Sicherheit und Ethik zu sichern. Aber auch für uns als Gesellschaft ist Verantwortung gefordert. Wir sollten neugierig bleiben, uns informieren, kritisch mitdiskutieren und nicht in Passivität oder eine Opferhaltung verfallen. Denn jede:r von uns nimmt letztlich Einfluss, sei’s als Konsument:in, Bürger:in oder Entscheider:in. Am Ende entscheiden wir gemeinsam, wie KI unsere Welt prägen wird. Das ist anstrengend, aber auch eine Chance!

In deinem Buch «Menschenversteher» schreibst du, dass uns Maschinen daran erinnern, was Menschsein ausmacht. Was meinst du damit konkret?

In meinen Augen ist die spannende Entwicklung, dass, während Maschinen immer besser darin werden, menschliche Emotionen zu erkennen und zu simulieren, wir Menschen eine Art Gegenbewegung erleben. Viele verlernen zunehmend, empathisch zu sein, wirklich zuzuhören und Begegnungen bewusst zu gestalten. Stattdessen verstecken wir uns hinter Bildschirmen, sind gestresst und oft weniger achtsam. Das ist ein Alarmzeichen!

Mein Plädoyer ist daher: Lassen wir nicht zu, dass Maschinen uns im Hinblick auf Empathie überholen. Emotionale Intelligenz, das heißt Selbstwahrnehmung, Selbststeuerung, Empathie, soziale Kompetenz und Motivation, sollten wir aktiv trainieren und wertschätzen. Nur wenn wir unsere Menschlichkeit schärfen, kann Digitalisierung wirklich menschengerecht werden.

Zum Abschluss: Gibt es einen Gedanken, den du Businessverantwortlichen und allen Neugierigen mit auf den Weg geben möchtest?

Ja, unbedingt! Bleibt offen und mutig, habt keine Angst vor Technologie. Aber verliert nie das Menschliche aus dem Blick. KI kann viel, aber letztlich ist sie immer das, was wir daraus machen. Es liegt an uns, ihr eine Richtung zu geben und Verantwortung zu übernehmen. Wer neugierig bleibt, der kann die Zukunft gestalten.

Dieses Interview basiert auf dem Podcast Meikes Raumzeit, Episode 52 «Was hat das Gestalten von KI mit Menschlichkeit zu tun?»