On estime à un milliard le nombre de caméras de surveillance en service dans le monde [i]. Les Principes directeurs des Nations Unies relatifs aux entreprises et aux droits humains (UNGP) invitent les entreprises à respecter les droits de l’homme et à corriger les abus lorsqu’ils se produisent. Ils appellent les entreprises à exercer une diligence sur les droits de l’homme pour « savoir et montrer » qu’elles respectent les droits de l’homme dans leurs propres activités et dans les activités directement liées à leurs produits, services, procédés opérationnels et dans leurs relations commerciales.
Plus tôt cette année, Candriam a lancé une Initiative collaborative sur la reconnaissance faciale afin d’aborder les risques de cette technologie en plein essor. Cinquante investisseurs représentant 4 500 milliards de dollars d’actifs sous gestion se sont engagés dans cette initiative saluée par les Principes pour l’investissement responsable de l’ONU, (UNPRI).
Les technologies de reconnaissance faciale sont en train de changer nos vies...
Nous sommes nombreux à saluer l’arrivée de la technologie de reconnaissance faciale. Elle permet d’optimiser l’efficacité et la sécurité. Elle nous sert à déverrouiller nos smartphones haut de gamme et à transiter plus rapidement dans les aéroports. Si le déploiement de la Technologie de Reconnaissance Faciale (TRF) à grande échelle ne fait que commencer, celle-ci est cependant en développement depuis des dizaines d’années…
.... mais avec un « coût caché » : les droits humains ?
La gestion responsable ne se limite pas à réagir aux risques et aux enjeux qui nous préoccupent aujourd’hui. Elle va bien au-delà des problématiques « vertes » et du climat. L’investissement responsable reconnaît le rôle que joue le monde de la finance pour la société.
La technologie nous a apporté des avantages exceptionnels – et des investissements qui le sont tout autant. Au cours de cette dernière année marquée par la distanciation sociale imposée par la pandémie, la technologie a permis aux familles de communiquer sans contacts et à de nombreux professionnels de continuer à exercer leur métier de chez eux. Elle a même contribué au développement des consultations médicales à distance, par le biais de la télémédecine.
Dans sa configuration actuelle, la technologie de reconnaissance faciale exploite des images sans le consentement des personnes et manque de cadre réglementaire. Bien souvent, nous sommes sous surveillance par la TRF sans le savoir. Les erreurs d’identification sont bien plus fréquentes que nous ne l’imaginons et sont plus systématiques au sein de certains groupes ethniques.
Ces erreurs, dont le nombre ne cesse d’augmenter, ont donné lieu à l’arrestation de mauvaises personnes. En 2019, la ville américaine de San Francisco – berceau de la reconnaissance faciale – a d’ailleurs interdit son utilisation par les forces de l’ordre. Peu de temps après, certains géants de la tech ont annoncé un moratoire d’un an sur la vente de leurs produits de reconnaissance faciale.
D’où proviennent les controverses ?
L’absence de consentement, le manque de supervision, le taux d’erreurs et les biais liés au genre et à la race dans les erreurs d’identification sont les principales zones d’ombre qui vont devoir être clarifiées. Les investisseurs doivent poser les questions.
Pourquoi maintenant ?
Selon les estimations, un milliard de caméras de surveillance sont déployées et actives à ce jour[i]. Les principes directeurs relatifs aux entreprises et aux droits de l’homme des Nations Unies (UNGP) encouragent les entreprises à respecter les droits de l’homme et à corriger leurs pratiques en cas de violation. Les entreprises sont également invitées à effectuer des « due diligence » en matière de droits de l’homme, afin de « savoir et montrer » qu’elles respectent ces droits au sein de leurs propres activités, mais également dans celles directement liées à leurs produits, leurs services, leurs opérations et dans le cadre de leurs relations commerciales.
[i] Lin, Liza and Newley Purnell. The Wall Street Journal. A World With a Billion Cameras Watching You Is just Around the Corner. Actualisé le 6 décembre 2019.
