Anthropic fordert eine weltweite Verlangsamung der Entwicklung leistungsfähiger KI-Systeme und warnt vor künftigen Modellen, die sich teilweise selbst verbessern könnten. KI-Experte Christoph Knöll hält die Risiken für real, eine globale Entwicklungspause jedoch für politisch und wirtschaftlich unrealistisch. Statt auf einen Stopp zu setzen, sollten Unternehmen Prozesse, Produkte und Geschäftsmodelle analysieren, da fehlende KI-Kompetenz künftig erhebliche Wettbewerbsnachteile verursachen kann.
Der KI-Entwickler Anthropic hat sich für eine weltweite Verlangsamung der Entwicklung leistungsfähiger KI-Systeme ausgesprochen. Hintergrund sind Befürchtungen, dass sich künftige KI-Systeme selbst verbessern und dadurch zunehmend der menschlichen Kontrolle entziehen könnten.
Dazu erklärt Christoph Knöll, KI-Experte und Geschäftsführer der KI-Beratung Neurawork:
«Die Warnung von Anthropic sollte ernst genommen werden. Es ist durchaus denkbar, dass wir in den kommenden Jahren KI-Systeme erleben, die sich teilweise selbst verbessern und Entwicklungssprünge auslösen, die heute noch schwer vorhersehbar sind.
Eine weltweite Entwicklungspause halte ich jedoch für unrealistisch. Weder die USA noch China werden ihre KI-Programme freiwillig stoppen. Solange KI wirtschaftliche, militärische und geopolitische Vorteile verspricht, wird der Wettbewerb weitergehen.
Regulierung ist notwendig, wird aber nicht ausreichen. Kein Gesetz der Welt wird verhindern, dass leistungsfähigere KI-Systeme entwickelt werden.
Entscheidend wird sein, wie schnell Unternehmen und Gesellschaft lernen, mit dieser Entwicklung umzugehen.
Für Unternehmen liegen die größten unmittelbaren Risiken einer Super-KI in den wirtschaftlichen Folgen. KI könnte Produkte entwickeln, Forschung betreiben und Entscheidungen treffen, die Menschen kaum noch nachvollziehen können. Unternehmen, die diese Systeme nicht beherrschen oder keinen Zugang dazu haben, könnten innerhalb weniger Jahre erhebliche Marktanteile verlieren oder sogar vom Markt verschwinden.
Die Technologie wird kommen. Die entscheidende Frage ist daher nicht, ob wir sie aufhalten können, sondern wie Unternehmen und Gesellschaft lernen, mit ihr umzugehen und ihre Risiken zu beherrschen. Jedes Unternehmen sollte deshalb umgehend prüfen, welche Prozesse, Produkte und Geschäftsmodelle durch KI bedroht oder verbessert werden können. Wer damit zu lange wartet, verliert.»
Autor: Christoph Knöll, Geschäftsführer Neurawork.
