Rapport de l’engagement sur les enjeux liés à la reconnaissance faciale

Une coalition de 21 investisseurs menée par Candriam, dont font partie nos partenaires Aequo, SHARE, et Vancity, a récemment publié une mise à jour de l’avancement du dialogue sur les questions liées aux technologies de la reconnaissance faciale.

Lancée en mars 2021, cette coalition demande que la vente de ces services de reconnaissance faciale aux forces de l’ordre soit suspendue jusqu’à ce qu’une réglementation adéquate ne voit le jour afin de s’assurer que cette technologie soit utilisée de façon responsable.

L’engagement cible 15 entreprises et vise à comprendre comment elles évaluent, gèrent et atténuent les risques que cette technologie fait courir aux droits humains. Le rapport d’avancement a soulevé 4 axes de préoccupation majeurs:

• les préjugés raciaux et sexistes : la technologie de reconnaissance faciale peut mener, même involontairement, à des discriminations et des violations des droits de l’Homme;
• la fiabilité limitée de la technologie : l’algorithme utilisé devrait toujours être contrôlé par un être humain;
• l’atteinte à la protection des données personnelles : le vente de cette technologie aux forces de l’ordre nécessite une réglementation adéquate;
• l’utilisation abusive : la technologie évoluant plus rapidement que la réglementation, il est impératif que les entreprises encadrent ces pratiques avec l’éthique nécessaire et communiquent de façon transparente.

Le rapport distingue les efforts de 3 entreprises :

• Microsoft, qui a mis en place un système de gouvernance autour de l’éthique de l’intelligence artificielle; ne fait plus de classification faciale et a mis un moratoire sur les ventes de technologie de reconnaissance faciale aux forces de l’ordre;
• Motorola, pour qui le système incluant la technologie de reconnaissance faciale doit aider l’humain plutôt que décider à sa place;
• Thales, qui a mis en place un contrôle des passeports assisté par la technologie de reconnaissance faciale en s’assurant que les données des utilisateurs soient supprimées après chaque passage.

Un second rapport est attendu en 2023 une fois l’ensemble des 15 entreprises rencontrées.

Sources : Investor Engagement on Human Rights Risks of Facial Recognition Technology: Interim Report, Candriam, septembre 2022, https://bit.ly/3UKYLEQ; « Candriam: premiers résultats de l'initiative d'engagement collaboratif sur la reconnaissance faciale », allnews.ch, 13 octobre 2022, https://bit.ly/3EmzkUJ