Les techniques de reconnaissance faciale posent de nombreux problèmes, en particulier en termes de vie privée, de dignité humaine et plus généralement de droits de l’homme. Leur perception par le public en est d’ailleurs assez négative, la plupart des gens étant assez réticents à l’égard de leur utilisation, que ce soit par les pouvoirs publics ou des entreprises privées, et en fonction des types d’usages. Avec une stricte interdiction d’utilisation dans certains domaines (éduction, emploi…), le déploiement des techniques de reconnaissance faciale doit être encadré par la législation, et respecter les principes énoncés par les instruments internationaux de protection de la vie privée et des données personnelles. Par ailleurs, minimiser les risques de discrimination et d’autres risques sur les droits des individus, est crucial et une attention particulière doit être portée à l’exactitude des résultats tirés de la reconnaissance faciale ainsi qu’à stricte évaluation des niveaux de fiabilité. Un recours à une labellisation de la qualité des technologies de reconnaissance faciale, une consultation large de toutes les parties prenantes ainsi que la mise en place de comités d’éthique sont certaines des pistes recommandées pour garantir un respect des droits et des principes.

Cependant, les questions d’exactitudes et de biais ne doivent pas occulter les impacts plus fondamentaux de l’emploi des technologies de reconnaissance faciale sur la société et les aspects éthiques, sociétaux et publics doivent rester au centre des préoccupations. Il convient de considérer cette question également d’un point de vue des usages (reconnaissance passive ou distante par rapport à reconnaissance active), des fonctions (détection des visages, correspondance des visages, classifications,…). A cet égard, les moratoires observés dans certains pays et certaines entreprises (Amazon ou IBM par exemple), sont intéressants et bienvenus.

En effet, si les techniques de reconnaissance faciale, avec les algorithmes qui leurs accompagnent techniquement, peuvent rendre de précieux services, notamment dans les enquêtes policières ou encore les recherches humanitaires du CICR, elles nécessitent des précautions et une rigueur absolues afin de protéger les personnes, confirmant ainsi que protéger les données, c’est bien protéger les personnes.

La session de questions/réponses porte sur comment le Comité de la Convention 108 peut se saisir davantage de ces questions, en particulier dans le contexte de la pandémie de COVID-19, comment garantir le droit au consentement dans certaines circonstances, les critères d’interdictions formelles du déploiement de la reconnaissance faciale, les techniques d’apprentissage des algorithmes et leurs effets dans ces contextes et l’efficacité des instruments juridiques, dont la Convention des droits de l’homme face à ces technologies.