Perché non possiamo ignorare la governance dell'IA

Quali sono le sfide del settore?

Mentre le aziende si affrettano ad abbracciare l'intelligenza artificiale generale (spesso definita come sistemi altamente autonomi in grado di superare le prestazioni umane nelle attività economicamente più redditizie), la regolamentazione fatica a tenere il passo. La legge dell'UE sull'intelligenza artificiale è stata proposta per la prima volta dalla Commissione europea nell'aprile 2021, ma è entrata pienamente in vigore solo nell'agosto 2026. Questo ritardo normativo crea una grave lacuna nella governance. A nostro avviso, finché la normativa non sarà adeguata, le aziende che sviluppano e implementano tecnologie di IA all’avanguardia devono dimostrare di essere in grado di autoregolarsi in modo sicuro, responsabile ed etico.

Ciò richiede ben più che semplici principi, dichiarazioni etiche o impegni volontari. Richiede una governance forte, competente e riconosciuta: consigli di amministrazione e dirigenti che dispongano dell’autorità, delle competenze e degli incentivi necessari per valutare l’impatto dell’IA sulle persone, sulla democrazia, sulla sicurezza e sull’ambiente — e per rallentare, limitare o bloccare la sua diffusione laddove i rischi non possano essere gestiti in modo responsabile.

Siamo ancora lontani dal raggiungere questo obiettivo. In effetti, la tendenza sembra andare nella direzione opposta. Secondo la Ethical AI Collective Impact Coalition (CIC) della World Benchmarking Alliance (WBA), nel 2024 38 aziende su 71 (53%) hanno integrato esplicitamente i diritti umani nei propri principi relativi all’IA, rispetto alle 31 su 52 (60%) del 2023.[2]

La governance dell'IA è una questione di investimento?

Certamente! L’IA offre opportunità di investimento molto allettanti, accompagnate però da rischi altrettanto elevati. Penso ai diritti umani, ai rischi legali e normativi, ai rischi operativi, ai rischi reputazionali, ecc. È assolutamente fondamentale che le aziende si dotino al più presto di solidi meccanismi di governance per gestire efficacemente i rischi legati all’IA. Ciò significa, ad esempio:

• una politica solida e responsabile in materia di IA;
• un comitato di sorveglianza dell'IA composto da esperti, sia interni che esterni;
• i mezzi e il mandato necessari per influenzare le decisioni relative allo sviluppo e all’implementazione dell’IA, sia esistente che futura;
• responsabilità ai massimi livelli della direzione e del consiglio di amministrazione;
• formazione del personale.

Una solida governance è l’aspettativa più importante della nostra coalizione di investitori per un’IA etica.

In che modo Candriam analizza questi rischi?

Il nostro team di ricerca ESG ha sviluppato un proprio quadro di riferimento dedicato all’IA. Esso si basa sul livello di rischio associato ai vari casi d’uso dell’IA. Verifica che le aziende abbiano messo in atto politiche adeguate, un sistema di governance, procedure di identificazione dei rischi e processi di due diligence.

Ci avvaliamo del quadro di riferimento dell’UE sulla “doppia materialità”, che analizza i rischi di sostenibilità a cui è esposta un’azienda e in che modo l’uso dell’IA da parte di tale azienda influisca sul mondo:

• I rischi “outside-in” comprendono i pregiudizi algoritmici, che possono causare danni alla reputazione e di natura legale, nonché i rischi legati alla sicurezza informatica.
• I rischi "inside-out" includono le emissioni di gas serra, la discriminazione causata da algoritmi distorti e l'amplificazione di dati errati. L'IA consuma già fino alla metà dell'energia dei data center e ben il 3% dell'elettricità mondiale.[3] Questi data center usano quattro volte più acqua di quanto si pensasse in precedenza.[4]

Come interagite con le aziende in materia di IA?

Le tensioni rispecchiano quelle relative ad altri temi di coinvolgimento, ma sono più intense e la posta in gioco finanziaria è potenzialmente più alta. Il numero elevato e in crescita di sviluppatori di IA che operano nel settore privato fa sì che la divulgazione pubblica sia limitata a una porzione più ristretta del settore. A ciò si aggiunge il fatto che le normative variano da un paese all’altro, anche all’interno dell’UE.

Questi fattori contribuiscono a creare uno squilibrio strutturale tra i rischi e la nostra leva finanziaria in qualità di investitori:

• abbiamo un accesso limitato agli attori chiave: i principali sviluppatori di IA sono o società private o non rispondono. Molti dei principali operatori del settore adottano un sistema a doppia classe di azioni, il che significa che la voce degli investitori è limitata.
• C'è un'enorme concentrazione di potere: un numero ristretto di hyperscaler controlla l'infrastruttura e i modelli.
• Il risultato di questa discrepanza è che l'effetto leva risulta indiretto e disomogeneo. Di conseguenza, tutti i nostri portafogli possono risentire dei rischi legati all’IA.

Quando si parla di coinvolgimento tramite IA, il problema sta proprio nei dati, o meglio nella loro assenza. E non solo c'è mancanza di dati, ma anche di comparabilità. Ciò rispecchia le fasi iniziali di altri ambiti legati agli investimenti e al coinvolgimento, ma nel caso dell’IA disponiamo di minori possibilità di accesso e di minore influenza. Tuttavia, riteniamo che l’esperienza che abbiamo avuto nell’affrontare altri temi potrebbe essere utilizzata anche per affrontare le sfide legate all’IA. 

Cos’altro stanno facendo Candriam e altri gestori patrimoniali per affrontare questi problemi di governance?

Siamo uno dei quattro co-leader[5] della WBA Ethical AI CIC, un gruppo di oltre 60 investitori con un patrimonio gestito di oltre 11.000 miliardi di dollari. [6] Il nostro obiettivo è affrontare i rischi legati agli effetti sociali dell’IA incoraggiando le aziende a impegnarsi a rispettare le linee guida pubbliche in materia di IA, ad adottare una governance solida e competente e ad attuare processi volti a garantire lo sviluppo, l’implementazione e l’uso sicuri dell’IA.

È importante sottolineare che abbiamo affrontato il tema sin dall'inizio: abbiamo iniziato nel 2020 con il riconoscimento facciale e i diritti umani. Grazie a questa collaborazione con altri investitori e alla nostra partecipazione al comitato direttivo della WBA, abbiamo continuato a sensibilizzare l’opinione pubblica, conducendo in modo congiunto iniziative di dialogo con aziende selezionate.

Quali progressi avete fatto finora?

Sono stati compiuti alcuni progressi: i rischi vengono compresi sempre meglio e stanno emergendo quadri di governance, sebbene solo in una minoranza di aziende.

I proprietari stanno iniziando ad agire. Negli Stati Uniti, nonostante nel 2025 il numero complessivo delle mozioni presentate dagli azionisti su tematiche sociali sia diminuito, quelle relative alla sicurezza dei dati, alla privacy e all’IA sono rimaste a livelli elevati.[7]

Ma non possiamo abbassare la guardia. Delle 200 società che compongono l’indice WBA, meno del 40% dispone di una politica sull’IA pubblica.[8] Solo il 12% rivela i propri meccanismi di governance effettivi .[9] Questa mancanza di trasparenza rende difficile valutare se la politica venga implementata nell'attività reale. Ciò significa anche che è difficile monitorare e condividere le migliori pratiche.

Anche il ritmo sta rallentando: nel 2024, 19 nuove aziende hanno pubblicato i propri principi in materia di IA, ma nel 2025 solo nove nuove aziende hanno reso note le proprie politiche in materia di IA.[10] L'adozione di misure di sicurezza è limitata a qualsiasi livello, le prove finora disponibili riguardo al loro impatto concreto sono modeste e permangono punti ciechi sia tra gli sviluppatori di IA che da parte dei governi.

Riconoscimento