Gesundheitsorganisationen stehen vor dem Übergang von KI-Pilotprojekten in den dauerhaften Regelbetrieb. Entscheidend ist nicht mehr allein die Modellperformance, sondern die langfristige Genehmigung, Auditierbarkeit und sichere Skalierbarkeit über Standorte hinweg. Governance wird zum Schlüsselfaktor. Regulatorische Rahmen wie EU AI Act und ISO 42001 definieren Anforderungen an Rückverfolgbarkeit, Risikomanagement und Aufsicht über den gesamten Lebenszyklus.
Gesundheitsorganisationen stehen vor der nächsten Phase des KI-Einsatzes. Nach Jahren von Pilotprojekten und begrenzten Implementierungen rückt der dauerhafte Betrieb von KI-Systemen in klinischen Umgebungen in den Fokus. KI wird zunehmend als Bestandteil der digitalen Infrastruktur betrachtet und nicht mehr als isolierte Innovation.
Damit verschieben sich die Bewertungskriterien. Die reine Leistungsfähigkeit von KI-Modellen ist nicht mehr ausschlaggebend. Entscheidend ist, ob Systeme langfristig genehmigt, geprüft und sicher betrieben werden können. Das betrifft den Einsatz über mehrere Standorte hinweg ebenso wie den Umgang mit regulatorischen Anforderungen. Governance wird damit zum zentralen Faktor für Skalierbarkeit.
Florian Schwiecker vom europäischen KI-Anbieter Corti, der sich auf KI-Lösungen für das Gesundheitswesen spezialisiert hat, erklärt die Rolle von Governance für KI-Projekte im Gesundheitswesen:
In frühen Phasen steht Performance im Vordergrund. Mit der Überführung in den Regelbetrieb treten andere Fragen in den Mittelpunkt. Organisationen müssen nachvollziehen können, wie KI-Systeme trainiert, versioniert und ausgerollt wurden. Ergebnisse müssen gegenüber Klinikern, Auditoren und Aufsichtsbehörden erklärbar sein. Ebenso relevant sind die kontinuierliche Überwachung von Performance, Drift und Risiken sowie klar geregelte Verantwortlichkeiten über längere Zeiträume.
Diese Anforderungen entstehen nicht in Demonstrationen. Sie werden in Beschaffungsverfahren, Audits und operativen Reviews verbindlich. Dort entscheidet sich, ob KI-Systeme freigegeben und flächendeckend eingesetzt werden können. Fehlen belastbare Antworten, bleiben auch technisch ausgereifte Systeme auf einzelne Einsatzszenarien beschränkt.
Skalierung legt Governance-Lücken offen
Das Gesundheitswesen ist reguliert und sicherheitskritisch. Wenn KI von randständigen Anwendungsfällen in zentrale Abläufe vordringt, etwa in Dokumentation, Bewertung, Priorisierung und Entscheidungsunterstützung, steigen die Anforderungen. Sie muss dann denselben betrieblichen Maßstäben genügen wie andere klinische Systeme.
Ohne verankerte Governance zeigen sich wiederkehrende Probleme:
- Systeme sind nicht ausreichend auditierbar oder erklärbar
- Modelle driften nach der Bereitstellung unbemerkt
- Zuständigkeiten sind im Störfall nicht eindeutig geregelt
- Funktionen erhalten keine Genehmigung für den breiten Einsatz
In diesen Fällen scheitert Skalierung nicht an der Technologie, sondern an fehlender Governance.
Regulierung als Maßstab für den Betrieb
Vor diesem Hintergrund gewinnen regulatorische Rahmenwerke in der Praxis an Bedeutung. Der EU AI Act und ISO 42001 bündeln Anforderungen, die für den Betrieb von KI als Infrastruktur notwendig sind. Dazu zählen Rückverfolgbarkeit, Risikomanagement, menschliche Aufsicht und Verantwortlichkeit über den gesamten Lebenszyklus.
Diese Standards haben den Wandel nicht ausgelöst. Sie bilden ab, welche Voraussetzungen für den langfristigen Einsatz von KI inzwischen erwartet werden. Skalierbare Healthcare-KI setzt Systeme voraus, die von Beginn an governance-fähig konzipiert sind.
Governance als Teil des Systembetriebs
Wirksame KI-Governance beschränkt sich nicht auf Richtlinien. Sie sollte Bestandteil von Entwicklung und Betrieb sein:
- Klare Verantwortlichkeiten mit benannter Zuständigkeit für jedes Modell über seinen gesamten Lebenszyklus
- Kontinuierliches Risikomanagement, das Sicherheit, Bias, Zuverlässigkeit und Drift fortlaufend bewertet
- Standardmäßige Rückverfolgbarkeit von Daten, Modellen und Releases, sodass diese auditierbar sind
- Menschliche Aufsicht, sodass Kliniker KI-gestützte Ausgaben verstehen, hinterfragen und bei Bedarf übersteuern können
- Laufendes Monitoring unter veränderlichen Einsatzbedingungen
Sind diese Elemente integriert, entsteht betriebliche Klarheit. Änderungen lassen sich nachvollziehen, Risiken frühzeitig erkennen und Maßnahmen gezielt umsetzen. Das schafft die Voraussetzung für kontrollierte Skalierung.
ISO 42001 als Referenzrahmen
Governance ist für den breiten KI-Einsatz im Gesundheitswesen zur Voraussetzung geworden. KI-Systeme werden danach beurteilt, ob sie über Jahre hinweg genehmigt, auditiert und stabil betrieben werden können.
Die Plattform von Corti wurde von Beginn an für den langfristigen, regulierten Einsatz von KI im Gesundheitswesen konzipiert. 2025 schloss der KI-Anbieter die Ausrichtung an ISO 42001 ab, dem internationalen Standard für KI-Managementsysteme. ISO 42001 definiert Anforderungen an KI-Managementsysteme über den gesamten Lebenszyklus hinweg. Dazu gehören klare Verantwortlichkeiten, kontinuierliches Risikomanagement, Rückverfolgbarkeit, menschliche Aufsicht, Monitoring, Incident-Response und Stilllegung. Zusätzlich erfolgte eine frühe Ausrichtung auf den EU AI Act.
Die Plattform kann Governance im großen Maßstab nachweisen – in Prozessen, Dokumentation und im operativen Betrieb. Mit dem Übergang von Pilotprojekten in den Regelbetrieb wird diese Nachweisbarkeit zum entscheidenden Kriterium für Skalierbarkeit.
Entscheidend ist der langfristige Betrieb
Der weitere Ausbau von KI im Gesundheitswesen wird nicht durch einzelne Demonstrationen bestimmt. Maßgeblich ist, ob Systeme dauerhaft, regelkonform und sicher betrieben werden können. Governance entscheidet darüber, ob KI ihren Platz als verlässliche Infrastruktur im klinischen Alltag einnimmt.
