Dix ans après son adoption, la Recommandation CM/Rec(2010)13 du Comité des Ministres aux États membres sur la protection des personnes à l’égard du traitement automatisé des données à caractère personnel dans le cadre du profilage est-elle toujours d'actualité ?

Le panel constate qu'il est de plus en plus nécessaire de la réviser, principalement parce que l'IA a substantiellement modifié le fonctionnement du profilage et l'étendue du risque qu'il peut générer pour les individus. Des pratiques identifiées récemment (ex: Cambridge Analitica) montrent comment le profilage peut saper les démocraties. Il est donc nécessaire d’élargir le champ d'application de la recommandation d'origine et de renforcer les droits des personnes concernées, mais il faut aussi passer de la protection de l'individu à la protection des communautés et de secteurs entiers. Dans le domaine de la justice prédictive, par exemple, la monétisation des capacités de profilage créé déjà aux États-Unis un vaste marché autour de la prédiction des affaires judiciaires. Ces évolutions, où les juges n’ont aucune conscience qu’ils font l’objet d’un profilage, exposent l'ensemble du pouvoir judiciaire à des risques sans précédent. Le panel recommande, par conséquent, de recentrer les discussions vers le sens originel de la jurisprudence.

En intégrant l'IA dans les processus, le « profilage moderne » aux États-Unis a déjà rendu le profilage classique obsolète et il n’y a que quelques instruments juridiques «modernes» (Fair Credit Reporting Act, California Consumer Privacy Act, ACT concernant l'utilisation des services de reconnaissance faciale dans l’État de Washington) pour défendre les valeurs traditionnelles de protection des individus et d’équité dans la société. Le panel alerte donc sur la nécessité que ces valeurs soient garanties en permanence par la jurisprudence. Dans l’évaluation du « profilage moderne », l'impact sociétal collectif doit être pris en compte, en plus de la transparence, du choix d’une bonne base juridique pour le traitement, du rôle de la co-conception et des comités d'experts indépendants, qui méritent une analyse attentive. 

Le panel conclut en suggérant qu'une approche participative centrée sur l'humain doit être privilégiée et qu'une vigilance de tous les acteurs sur les algorithmes est requise.

Au cours de la session de questions-réponses, les sujets portant sur l'imposition de contraintes sur des utilisations spécifiques, la labellisation, la certification, les options de l’opt-out et « l’affichage éthique » sont discutés.