Alors que la reconnaissance faciale s’immisce de plus en plus dans notre quotidien, de nombreuses voix s’élèvent pour alerter la population sur les questions éthiques que son utilisation pose. Surprise, un nouveau venu au débat est incarné par l’un des géants de la tech : Brad Smith, le Président et directeur juridique de Microsoft, plaide pour que le Parlement américain encadre l’usage de cette technologie.

L’intervention du Président de Microsoft arrive alors que de nombreuses tensions ont eu lieu à ce sujet aux Etats-Unis. En Mai, Amazon a été accusé par une coalition d’associations américaines de vendre sa technologie de reconnaissance faciale, Rekognition, à des organismes d’application de la loi en Floride et en Oregon, « menaçant gravement les communautés des personnes à la peau foncée et les immigrés ».

En juin, ce sont quelques-uns de ses propres employés qui, sous couvert d’anonymat, ont reproché à Microsoft de signer un contrat de 19,4 millions de dollars utilisant un système de reconnaissance faciale avec la police des frontières américaines.

Dans un long article publié sur le blog de Microsoft, son Président Brad Smith rejette cette accusation, tout en reconnaissant les risques majeurs de cette technologie, et en appelant le gouvernement américain à créer une commission indépendante composée d’experts et de parlementaires pour légiférer sur la question.

Pour cet avocat spécialisé dans la protection des données, la société ne doit pas compter sur les seules pratiques des entreprises qui soumises à une concurrence au détriment de l’intérêt général, mais plutôt sur une législation solide pour éviter des abus pouvant venir des entreprises ou de l’Etat.

« Il est primordial de lancer une réglementation gouvernementale sur l’usage de la technologie de reconnaissance faciale, étant donné ses ramifications sociétales et la façon néfaste dont elle peut être utilisée. Sans une approche réfléchie, les autorités publiques peuvent s’appuyer sur des approches technologiques imparfaites ou biaisées pour décider qui suivre, enquêter ou même arrêter pour un crime. Les gouvernements peuvent surveiller l’exercice d’activités politiques et autres activités publiques en contradiction avec les sociétés démocratiques, en dissuadant les citoyens de se présenter à des événements politiques et en sapant nos libertés fondamentales de réunion et d’expression. De même, les entreprises peuvent utiliser la reconnaissance faciale pour prendre des décisions sans intervention humaine qui affectent nos choix pour le crédit, les emplois ou les achats. Tous ces scénarios soulèvent d’importantes questions de vie privée, de liberté d’expression, de liberté d’association, et même de vie et de liberté. »

Brad Smith soulève plusieurs questionnements sur l’usage et l’encadrement de la reconnaissance faciale, afin d’éviter les abus :

• Faut-il obliger les commerçants à poser des panneaux pour avertir de l’usage de la reconnaissance faciale ?
• Les particuliers doivent-ils pouvoir accéder aux photos qui les identifient ?
• Comment éviter que cette technologie serve pour le profilage racial ?
• Faut-il créer des procédures juridiques qui donnent des recours aux personnes qui ont été identifiées par erreur ? Bien que le taux d’erreur des logiciels de reconnaissance faciale ait baissé, il demeure très élevé.

Bien sûr, cette intention de bonne foi prend en compte les inquiétudes exprimées par les usagers de nouvelles technologies. Le Président de Microsoft reconnaît ainsi que :

« Les consommateurs auront plus confiance dans la façon dont les entreprises privées gèrent leurs données personnelles si des règles claires et strictes sont imposées à tous ».

Cela comprend la création d’une législation internationale afin que chaque personne ait accès à la même protection selon le pays dans lequel elle se trouve. Avec l’arsenal de vidéosurveillance déjà en place en Chine et les discussions en cours sur le sujet en France, ce point semble devenir urgent.

Comme le dit Brad Smith, « Microsoft reconnaît l’importance d’aller plus lentement dans le développement des technologies de reconnaissance faciale. « Aller vite et briser les tabous » est devenu l’un des mantras de la Silicon Valley durant la dernière décennie. Si l’on déploie trop vite les outils de reconnaissance faciale au sein de notre société, ce sont nos libertés fondamentales que l’on pourrait finir par briser. »