Waarom we AI-governance niet kunnen negeren

Wat zijn de uitdagingen?

Nu bedrijven in de richting van artificiële algemene intelligentie gaan – vaak gedefinieerd als zeer autonome systemen die beter presteren dan mensen op het meest economisch waardevolle werk – worstelt regelgeving om gelijke tred te houden. De AI-wet van de EU werd in april 2021 voor het eerst voorgesteld door de Europese Commissie, maar trad pas in augustus 2026 volledig in werking. Deze vertraging in de regelgeving laat een kritieke governance-kloof achter. Wij zijn van mening dat bedrijven die grensverleggende AI ontwikkelen en inzetten, moeten aantonen dat zij zichzelf op een veilige, verantwoordelijke en ethische manier kunnen reguleren totdat de regelgeving een inhaalslag maakt.

Dat vereist meer dan principes, ethische verklaringen of vrijwillige verbintenissen. Het vereist sterk, deskundig en mondig bestuur: raden van bestuur en leidinggevenden met de autoriteit, expertise en stimulansen om de impact van AI op mensen, democratie, veiligheid en het milieu te beoordelen — en om de inzet te vertragen, te beperken of te stoppen wanneer risico’s niet op verantwoorde wijze kunnen worden beheerd.

We zijn er nog lang niet. De trend lijkt inderdaad in de tegenovergestelde richting te gaan. Volgens World Benchmarking Alliance (WBA) Ethical AI Collective Impact Coalition (CIC) hebben 38 van de 71 bedrijven (53%) in 2024 expliciet mensenrechten opgenomen in hun AI-principes, tegenover 31 van de 52 (60%) in 2023.[2]

Is AI-governance een beleggingskwestie?

Absoluut! AI biedt aantrekkelijke beleggingskansen die alleen worden geëvenaard door de hoge risico’s die ermee gepaard gaan. Ik denk aan mensenrechten, juridische en reglementaire risico’s, operationele risico’s, reputatierisico’s enz. Het is absoluut cruciaal dat bedrijven zich zo snel mogelijk uitrusten met de sterke governance-mechanismen om AI-risico’s effectief te beheren. Dit betekent bijvoorbeeld:

• een sterk verantwoord AI-beleid;
• een AI-toezichtcomité bestaande uit deskundigen, zowel intern als extern;
• de middelen en het mandaat om beslissingen te beïnvloeden met betrekking tot bestaande en nieuwe AI-ontwikkeling en -uitrol;
• verantwoording op het hoogste niveau van management en bestuur;
• opleiding van personeel.

Een sterke AI-governance is de belangrijkste verwachting van onze coalitie voor ethische AI-beleggers.

Hoe analyseert Candriam deze risico’s?

Ons ESG-onderzoeksteam heeft een eigen AI-raamwerk ontwikkeld. Het raamwerk is gebaseerd op het risiconiveau dat verbonden is aan de verschillende AI-use cases. Het controleert of bedrijven de juiste beleidslijnen, governance, risico-identificatie en due diligence-processen hebben geïmplementeerd.

We gebruiken het EU-kader ‘dubbele materialiteit’, waarin wordt gekeken naar de duurzaamheidsrisico’s waarmee een bedrijf wordt geconfronteerd en hoe het gebruik van AI door dat bedrijf de wereld beïnvloedt:

• ‘Outside-in’-risico’s omvatten algoritmische vooroordelen die reputatieschade en juridische schade kunnen veroorzaken, en cyberbeveiligingsrisico’s.
• ‘Inside-out’-risico’s omvatten de uitstoot van broeikasgassen, discriminatie door bevooroordeelde algoritmen en versterking van onjuiste gegevens. AI verbruikt al tot de helft van het datacentervermogen en zelfs 3% van de wereldwijde elektriciteit.[3] Deze datacenters gebruiken vier keer zoveel water als eerder gedacht.[4]

Hoe gaat u om met bedrijven op het gebied van AI?

De spanningen weerspiegelen die van andere engagementonderwerpen, maar zijn intenser, en de financiële belangen zijn potentieel hoger. Een hoog en toenemend particulier bezit van AI-ontwikkelaars betekent dat de publieke bekendmaking beperkt is tot een kleiner deel van de industrie. Daarnaast is er sprake van inconsistente regelgeving tussen landen, zelfs binnen de EU.

Deze dragen bij aan een structurele mismatch tussen de risico’s en onze leverage als belegger:

• We hebben beperkte toegang tot de belangrijkste actoren: De toonaangevende AI-ontwikkelaars zijn ofwel privébezit of reageren niet. Verschillende marktleiders in deze sector maken gebruik van een structuur met dubbele aandelenklassen, wat betekent dat de stem van beleggers beperkt is
• Er is een enorme machtsconcentratie: een klein aantal hyperscalers controleert de infrastructuur en de modellen.
• Het gevolg van deze mismatch is dat de leverage indirect en ongelijk is. Daarom kunnen al onze portefeuilles worden beïnvloed door AI-risico’s.

Bij AI engagement zit het venijn in de data (of het gebrek daaraan). Niet alleen een gebrek aan gegevens, maar ook een gebrek aan vergelijkbaarheid. Dit weerspiegelt de vroege stadia van andere beleggings- en engagementonderwerpen, maar met AI hebben we minder toegang en minder leverage. We zijn echter van mening dat de ervaring die we hebben opgedaan met andere onderwerpen ook kan worden gebruikt om de uitdagingen met betrekking tot AI aan te pakken. 

Wat doen Candriam en andere vermogensbeheerders nog meer om deze governance-kwesties aan te pakken?

We zijn een van de vier co-leiders[5] van de WBA Ethical AI CIC, een groep van meer dan 60 beleggers met meer dan $ 11 biljoen activa onder beheer. [6] We willen de risico's in verband met de maatschappelijke effecten van artificiële intelligentie aanpakken door bedrijven aan te moedigen zich te committeren aan publieke richtlijnen voor artificiële intelligentie, een sterk en deskundig bestuur aan te nemen en processen te implementeren om de veilige ontwikkeling, inzet en gebruik van artificiële intelligentie te waarborgen.

Belangrijk is dat we vroeg bij het onderwerp waren: we begonnen in 2020 met gezichtsherkenning en mensenrechten. Door deze samenwerking met andere investeerders, en door ons lidmaatschap van de WBA-stuurgroep, zijn we de bewustwording blijven vergroten en zijn we samen met geselecteerde bedrijven de dialoog aangegaan.

Welke vooruitgang heeft u tot nu toe geboekt?

Er is enige vooruitgang geboekt – de risico’s worden steeds beter begrepen en er ontstaan bestuurskaders, zij het bij een minderheid van de bedrijven.

Eigenaren beginnen te handelen. In de VS zijn de besluiten van aandeelhouders over sociale onderwerpen in 2025 over het geheel genomen gedaald, maar de besluiten over gegevensbeveiliging, privacy en artificiële intelligentie bleven op een hoog niveau.[7]

Maar we moeten op onze hoede blijven. Van de WBA-index die uit 200 bedrijven bestaat, heeft minder dan 40% een bekendgemaakt AI-beleid.[8] Slechts 12% maakt hun feitelijke governance-mechanismen bekend.[9]Dit gebrek aan transparantie maakt het moeilijk om te meten of het beleid in de feitelijke bedrijfsvoering wordt geïmplementeerd. Dit betekent ook dat het moeilijk is om de beste praktijken op te volgen en te delen.

Het tempo neemt ook af: 19 nieuwe bedrijven publiceerden AI-principes in 2024, maar slechts negen nieuwe bedrijven publiceerden hun AI-beleid in 2025.[10] Er is beperkte implementatie van vangrails op elke schaal, bescheiden bewijs tot op heden van de reële impact, en aanhoudende blinde vlekken onder AI-ontwikkelaars en door overheden.

Erkenning