Por qué no podemos ignorar la gobernanza de la IA

¿Cuáles son los desafíos?

Mientras las empresas se apresuran hacia la inteligencia artificial general, definida a menudo como sistemas altamente autónomos que superan a los seres humanos en las tareas de mayor valor económico, la regulación tiene dificultades para seguir el ritmo. La Ley de IA de la UE fue propuesta por primera vez por la Comisión Europea en abril de 2021, pero no entró plenamente en vigor hasta agosto de 2026. Este desfase regulatorio deja una importante brecha de gobernanza. En nuestra opinión, hasta que la regulación consiga ponerse al día, las empresas que desarrollan y despliegan IA de vanguardia deben demostrar que pueden autorregularse de manera segura, responsable y ética.

Esto requiere algo más que principios, declaraciones éticas o compromisos voluntarios. Requiere una gobernanza sólida, especializada y con capacidad de actuación: consejos de administración y equipos directivos con la autoridad, los conocimientos especializados y los incentivos necesarios para evaluar el impacto de la IA en las personas, la democracia, la seguridad y el medio ambiente, y para ralentizar, limitar o detener su implementación cuando los riesgos no puedan gestionarse de forma responsable.

Estamos muy lejos de alcanzar este objetivo. De hecho, la tendencia parece apuntar en la dirección contraria. Según la Ethical AI Collective Impact Coalition (CIC) de la World Benchmarking Alliance (WBA), en 2024, 38 de las 71 empresas (53 %) incorporaban explícitamente los derechos humanos a sus principios sobre IA, frente a 31 de las 52 (60 %) en 2023.[2]

¿Es la gobernanza de la IA una cuestión de inversión?

Efectivamente. La IA ofrece oportunidades de inversión muy atractivas, que solo se ven igualadas por los elevados riesgos que conllevan. Pienso en los riesgos relacionados con los derechos humanos, los aspectos jurídicos y regulatorios, los riesgos operativos, los riesgos reputacionales, etc. Es absolutamente fundamental que las empresas se doten lo antes posible de sólidos mecanismos de gobernanza que les permitan gestionar eficazmente los riesgos relacionados con la IA. Esto significa, por ejemplo:

• Una política sólida de IA responsable;
• Un comité de supervisión de la IA compuesto por expertos, tanto internos como externos.
• Los medios y el mandato necesarios para influir en las decisiones relativas al desarrollo y la implementación de sistemas de IA, tanto existentes como nuevos.
• Responsabilidad al más alto nivel de la dirección y del consejo de administración.
• Formación del personal.

Una sólida gobernanza de la IA es la expectativa más importante de nuestra coalición de inversores en IA ética.

¿Cómo analiza Candriam estos riesgos?

Nuestro equipo de Análisis ESG ha desarrollado su propio marco de análisis de la IA. El marco se basa en el nivel de riesgo asociado a los distintos casos de uso de la IA. Comprueba que las empresas hayan establecido las políticas, estructuras de gobernanza, procesos de identificación de riesgos y procedimientos de diligencia debida adecuados.

Utilizamos el marco europeo de «doble materialidad», que analiza los riesgos de sostenibilidad a los que se enfrenta una empresa y cómo el uso de la IA por parte de esa empresa afecta al mundo:

• Los riesgos «de fuera hacia dentro» incluyen los sesgos algorítmicos, que pueden provocar daños reputacionales y jurídicos, así como los riesgos de ciberseguridad.
• Los riesgos «de dentro hacia fuera» incluyen las emisiones de gases de efecto invernadero, la discriminación derivada de algoritmos sesgados y la amplificación de datos incorrectos. La IA ya consume hasta la mitad de la energía de los centros de datos y hasta un 3 % de la electricidad mundial.[3] Estos centros de datos utilizan cuatro veces más agua de lo que se creía anteriormente.[4]

¿Cómo se implica con las empresas en relación con la IA?

Las tensiones reflejan las de otros temas de implicación, pero son más intensas y las consecuencias financieras son potencialmente mayores. La elevada y creciente participación del capital privado en los desarrolladores de IA hace que la divulgación de información pública se limite a una parte más reducida del sector. A esto se suma una regulación desigual entre países, incluso dentro de la UE.

Estos factores contribuyen a un desajuste estructural entre los riesgos y nuestra capacidad de influencia como inversores:

• Tenemos un acceso limitado a los principales actores: Los principales desarrolladores de IA son empresas privadas o no responden a las iniciativas de diálogo. Varios de los líderes de este ámbito cuentan con estructuras de doble clase de acciones, lo que limita la capacidad de los inversores para hacer oír su voz.
• Existe una enorme concentración de poder: Un pequeño número de hiperescaladores controla la infraestructura y los modelos.
• El resultado de este desajuste es que nuestra capacidad de influencia es indirecta y desigual. Por tanto, todas nuestras carteras pueden verse afectadas por los riesgos relacionados con la IA.

En la implicación en relación con la IA, el quid de la cuestión está en la (falta de) datos. No solo en la falta de datos, sino también en la falta de comparabilidad. Esto recuerda a las primeras etapas de otros temas de inversión e implicación, pero en el caso de la IA tenemos menos acceso y menor capacidad de influencia. No obstante, creemos que la experiencia que hemos adquirido al abordar otros temas también podría utilizarse para hacer frente a los desafíos relacionados con la IA. 

¿Qué más están haciendo Candriam y otras gestoras de activos para abordar estas cuestiones de gobernanza?

Somos uno de los cuatro impulsores[5] de la iniciativa Ethical AI CIC de la WBA, un grupo formado por más de 60 inversores con más de 11 billones de dólares en activos gestión. [6] Nuestro objetivo es abordar los riesgos relacionados con los efectos de la IA en la sociedad, alentando a las empresas a comprometerse con directrices públicas sobre IA, adoptar una sólida gobernanza con expertos especializados y aplicar procesos que garanticen el desarrollo, la implementación y el uso seguros de la IA.

Es importante destacar que fuimos pioneros en este ámbito: Comenzamos a trabajar en 2020 en cuestiones relacionadas con el reconocimiento facial y los derechos humanos. A través de esta colaboración con otros inversores y de nuestra participación en el comité directivo de la WBA, hemos seguido concienciando sobre estas cuestiones y hemos codirigido iniciativas de implicación con determinadas empresas.

¿Qué avances han logrado hasta ahora?

Se han logrado algunos avances: los riesgos se comprenden cada vez mejor y están surgiendo marcos de gobernanza, aunque solo entre una minoría de empresas.

Los propietarios están empezando a actuar. En EE. UU., aunque las resoluciones de accionistas sobre cuestiones sociales disminuyeron en general en 2025, las resoluciones relativas a la seguridad de los datos, la privacidad y la IA se mantuvieron en niveles elevados.[7]

Pero no podemos bajar la guardia. De las 200 empresas que forman parte del índice de la WBA, menos del 40 % cuentan con una política de IA declarada públicamente.[8] Solo el 12 % divulga sus propios mecanismos de gobernanza.[9] Esta falta de transparencia dificulta determinar si la política se está aplicando efectivamente en la actividad empresarial. Esto también significa que resulta difícil supervisar y compartir las mejores prácticas.

El ritmo también se está ralentizando: 19 nuevas empresas publicaron principios sobre IA en 2024, pero solo nueve nuevas empresas dieron a conocer políticas sobre IA en 2025.[10] La implementación de medidas de protección a cualquier escala sigue siendo limitada, hasta la fecha existen pocas evidencias de un impacto real en el mundo y persisten importantes puntos ciegos entre los desarrolladores de IA y por parte de los Gobiernos.

Reconocimiento