Warum wir KI-Governance nicht ignorieren können

Wo liegen die Herausforderungen?

Während Unternehmen im Wettlauf um die allgemeine künstliche Intelligenz konkurrieren – oftmals definiert als hochgradig autonome Systeme definiert, die den Menschen bei der wirtschaftlich wertvollsten Arbeit übertreffen –, tut sich die Regulierung schwer, Schritt zu halten. Das EU-KI-Gesetz wurde erstmals im April 2021 von der Europäischen Kommission vorgeschlagen, trat aber erst im August 2026 in Kraft. Diese Zeitverzögerung in der Regulierung hinterlässt eine kritische Governance-Lücke. Unserer Ansicht nach müssen Unternehmen, die grenzüberschreitende KI entwickeln und einsetzen, nachweisen, dass sie sich auf sichere, verantwortungsvolle und ethische Weise selbst regulieren können, bis die Regulierung aufgeholt hat.

Dazu bedarf es mehr als Prinzipien, ethischer Aussagen oder freiwilliger Selbstverpflichtungen. Dies erfordert eine starke, fachkundige und befähigte Governance: Leitungsgremien und Führungskräfte mit der Autorität, der Expertise und den Anreizen, die Auswirkungen von KI auf Menschen, Demokratie, Sicherheit und Umwelt zu bewerten – und den Einsatz dort zu verlangsamen, einzuschränken oder zu stoppen, wo Risiken nicht verantwortungsvoll gesteuert werden können.

Davon sind wir noch weit entfernt. Tatsächlich scheint der Trend in die entgegengesetzte Richtung zu gehen. Laut der World Benchmarking Alliance (WBA) Ethical AI Collective Impact Coalition (CIC) haben im Jahr 2024 38 von 71 Unternehmen (53 %) explizit Menschenrechte in ihren KI-Prinzipien verankert, im Vergleich zu 31 von 52 (60 %) im Jahr 2023.[2]

Ist KI-Governance ein Investment-Problem?

Unbedingt! KI bietet attraktive Anlagechancen, denen jedoch ebenso hohe Risiken gegenüberstehen. Ich denke dabei an Menschenrechte, rechtliche und regulatorische Risiken, operationelle Risiken, Reputationsrisiken usw. Es ist absolut entscheidend, dass sich Unternehmen so schnell wie möglich mit den starken Governance-Mechanismen ausstatten, mit denen KI-Risiken effektiv gesteuert werden können. Das bedeutet zum Beispiel:

• eine starke verantwortungsvolle KI-Politik;
• ein KI-Überwachungsausschuss, der sich aus internen und externen Experten zusammensetzt;
• die Mittel und das Mandat, um Entscheidungen auf die bestehende und neue KI-Entwicklung und -Bereitstellung zu beeinflussen;
• Verantwortlichkeit auf der höchsten Ebene von Geschäftsführung und Verwaltungsrat;
• Mitarbeiterschulungen.

Eine starke KI-Governance ist die wichtigste Erwartung unserer Ethik-KI-Investorenkoalition.

Wie analysiert Candriam diese Risiken?

Unser ESG-Research-Team hat einen eigenen KI-Rahmen entwickelt. Der Rahmen orientiert sich an dem mit den verschiedenen KI-Anwendungsfällen verbundenen Risikoniveau. Er prüft, ob Unternehmen die richtigen Richtlinien, Governance-, Risikoidentifizierungs- und Due-Diligence-Prozesse eingeführt haben.

Wir verwenden den EU-Rahmen der „doppelten Wesentlichkeit“, der untersucht, mit welchen Nachhaltigkeitsrisiken ein Unternehmen konfrontiert ist und wie sich die Nutzung von KI durch dieses Unternehmen auf die Welt auswirkt:

• Zu den „Outside-in“-Risiken gehören algorithmische Verzerrungen, die Reputations- und juristische Schäden verursachen können, sowie Cybersicherheitsrisiken.
• Zu den „Inside-out“-Risiken gehören Treibhausgasemissionen, Diskriminierung durch verzerrte Algorithmen und die Verstärkung fehlerhafter Daten. KI verbraucht bereits bis zur Hälfte des Stroms in Rechenzentren und bis zu 3 % der weltweiten Elektrizität.[3] Diese Rechenzentren verbrauchen viermal so viel Wasser wie bisher angenommen.[4]

Wie gehen Sie mit Unternehmen beim Thema KI um?

Die Spannungen spiegeln die andere Mitwirkungsthemen wider, sind aber intensiver, und die finanziellen Einsätze sind potenziell höher. Ein hoher und steigender privater Eigentümer unter von KI-Entwicklern bedeutet, dass die öffentliche Offenlegung auf einen kleineren Teil der Branche beschränkt ist. Hinzu kommt, dass die Rechtsvorschriften von Land zu Land uneinheitlich sind, sogar innerhalb der EU.

Sie tragen zu einer strukturellen Diskrepanz zwischen den Risiken und unseren Einflussmöglichkeiten als Investoren bei:

• Wir haben nur begrenzten Zugang zu den wichtigsten Akteuren: Die führenden KI-Entwickler sind entweder in Privatbesitz oder reagieren nicht auf Anfragen. Einige der Marktführer in diesem Bereich verfügen über ein System mit zwei Aktienklassen, was bedeutet, dass die Mitsprachemöglichkeiten von Anlegern eingeschränkt sind.
• Die Machtkonzentration ist enorm: Eine kleine Anzahl von Hyperscalern kontrolliert die Infrastruktur und die Modelle.
• Das Ergebnis dieses Missverhältnisses ist, dass die Einflussnahme indirekt und ungleich verteilt ist. Daher können alle unsere Portfolios durch KI-Risiken beeinflusst werden.

Bei der KI-Mitwirkung steckt der Teufel in den (fehlenden) Daten. Nicht nur fehlende Daten, sondern auch mangelnde Vergleichbarkeit. Dies spiegelt die frühen Phasen anderer Investitions- und Mitwirkungsthemen wider, doch bei KI haben wir weniger Zugang und weniger Einflussmöglichkeiten. Nach unserer Überzeugung könnten jedoch die Erfahrungen, die wir bei anderen Themen gemacht haben, auch genutzt werden, um die Herausforderungen im Zusammenhang mit KI zu bewältigen. 

Was unternehmen Candriam und andere Vermögensverwalter noch, um diese Governance-Probleme anzugehen?

Wir sind einer von vier Co-Leadern[5] der WBA Ethical AI CIC, einer Gruppe von mehr als 60 Investoren mit über 11 Billionen US-Dollar an verwaltetem Vermögen. [6] Wir wollen den Risiken im Zusammenhang mit den gesellschaftlichen Auswirkungen von KI begegnen, indem wir Unternehmen ermutigen, sich zu öffentlichen Richtlinien zu KI zu verpflichten, eine starke und fachkundige Governance einzuführen und Prozesse zu implementieren, die eine sichere Entwicklung, Bereitstellung und Nutzung von KI gewährleisten.

Wichtig ist, dass wir uns frühzeitig mit dem Thema befasst haben: Wir haben 2020 mit Gesichtserkennung und Menschenrechten begonnen. Durch diese Zusammenarbeit mit anderen Investoren und unsere Mitgliedschaft im Lenkungsausschuss der WBA haben wir das Bewusstsein weiter geschärft und führen gemeinsam Dialoge mit ausgewählten Unternehmen.

Welche Fortschritte haben Sie bisher gemacht?

Es wurden einige Fortschritte erzielt – die Risiken werden immer besser verstanden, und es entstehen Governance-Rahmen, wenn auch bei einer Minderheit von Unternehmen.

Eigentümer beginnen zu handeln. In den USA ging die Zahl der Aktionärsbeschlüsse zu sozialen Themen im Jahr 2025 zwar insgesamt zurück, doch Beschlüsse über Datensicherheit, Datenschutz und künstliche Intelligenz bewegten sich weiterhin auf einem hohen Niveau.[7]

Aber wir dürfen in unserer Wachsamkeit nicht nachlassen. Von den im Index der WBA vertretenen 200 Unternehmen existiert in weniger als 40 % eine öffentlich dargelegte KI-Politik.[8] Nur 12 % legen ihre tatsächlichen Governance-Mechanismen offen.[9] Diese mangelnde Transparenz macht es schwierig zu beurteilen, ob die Politik im tatsächlichen Geschäftsbetrieb umgesetzt wird. Das bedeutet auch, dass die Überwachung und der Austausch von Best Practices schwierig ist.

Zudem lässt das Tempo derzeit nach: Im Jahr 2024 veröffentlichten 19 neue Unternehmen KI-Prinzipien, aber nur neun neue Unternehmen legten im Jahr 2025 KI-Richtlinien vor.[10] Die Umsetzung von Leitplanken in jeder Größenordnung hält sich in Grenzen, Belege für Auswirkungen auf die reale Welt sind eher bescheiden, und sowohl bei KI-Entwicklern als auch seitens der Regierungen bestehen blinde Flecken.

Anerkennung