La reconnaissance faciale sert, entre autres, à débloquer un smartphone ou à effectuer des paiements, mais des chercheurs rappellent aussi que cette nouvelle technologie peut se tromper ou asservir un peuple, comme elle est en train de le faire en Chine.
La nouvelle est plutôt intrigante : plus de 50 chercheurs, et non des moindres, exigent qu’Amazon ne vende plus sa technologie de reconnaissance faciale à la police. C’est d’autant plus étonnant qu’en général, les chercheurs ne se préoccupent pas de business.
Mais ici, ils estiment que le logiciel de reconnaissance faciale, développé par Amazon et vendu à la police américaine, n’est pas encore au point. Il a un taux d’erreur encore trop élevé quand il s’agit de reconnaître des femmes ou des personnes de couleur…
L’avantage de ce « coup de gueule », c’est qu’il rappelle qu’une innovation, en apparence anodine, peut être dangereuse. Pour la plupart des personnes, la reconnaissance faciale a un côté plutôt sympathique: elle permet de débloquer un smartphone plus facilement qu’en saisissant un code, et c’est aussi un moyen de paiement ou d’authentification. Ceux, qui ne jurent que par elle, soulignent que si un mot de passe peut être changé, un visage, lui, ne change pas et ne peut pas être remplacé.
C’est vrai que la reconnaissance faciale a de bons côtés
J’en donnerai deux exemples : l’identification de l’homme au chapeau des attentats de Bruxelles a été rendue possible grâce à un logiciel de reconnaissance faciale, développé par le FBI.
De même, lorsque la Russie a organisé la dernière coupe du monde de football, les 500 caméras de surveillance, déployées dans les villes et stades du tournoi, ont permis d’arrêter 180 criminels recherchés par la police, relate Le Figaro. Et ce ne sont là que deux exemples positifs parmi tant d’autres.
Mais comme toujours le diable se niche dans les détails… Prenons le cas du logiciel de reconnaissance faciale d’Amazon, récemment encore, il a faussement identifié 28 parlementaires dans une base de données de 25.000 photos de criminels…
C’est plutôt gênant, surtout quand ce logiciel est vendu à la police. Mais ce dernier n’est pas le seul à faire l’objet de critiques : le fameux logiciel Watson de IBM a un taux de réussite de 99% quand il s’agit d’hommes blancs, mais son taux de réussite tombe à 75% si ce sont des femmes de couleur. La reconnaissance faciale n’est donc pas encore au point, et elle pourrait faire plus de dégâts que de bien.
Jusqu’où peut-on laisser l’État se saisir d’une telle technologie ?
En Chine, c’est déjà trop tard : les 200 millions de caméras, installées dans les villes, servent aussi bien à régler des achats – et cela n’est pas un problème – mais elles servent aussi à sanctionner des incivilités sur la voie publique ou à détecter des comportements antisociaux. Mais qu’est-ce exactement une incivilité ?
Si pour les uns, c’est reconnaître un conducteur ivre mort au volant avant qu’il fasse des dégâts ou tue quelqu’un, mais pour d’autres, c’est reconnaître une femme qui refuse de porter le voile en Iran ou un individu qui ose faire un bras d’honneur à un membre du parti communiste chinois…
Pour Yohsua Bengio, un spécialiste de l’intelligence artificielle, le développement massif de la reconnaissance faciale en Chine s’apparente à un scénario digne du roman 1984 et de son Big Brother. Comme quoi, la technologie, c’est bien, mais elle doit être encadrée juridiquement, sans quoi, bonjour les dérapages !
