L’étude d’experts sur les dimensions des droits humains dans les techniques de traitement automatisé des données (en particulier les algorithmes) et éventuelles implications réglementaires (DGI(2017)12) de décembre 2017 recense les principales inquiétudes du Conseil de l’Europe sur les droits de l’homme. Elle liste les conséquences possibles pour les droits inscrits dans la Convention européenne et conclut que tous les droits peuvent être concernés car l’utilisation croissante de l’automation et de la prise de décision algorithmique dans tous les domaines risque de perturber les structures de pouvoir traditionnelles, les opérateurs des algorithmes (publics ou privés) prenant l’avantage. L’étude cherche en outre à identifier les options réglementaires possibles que les États membres pourraient envisager pour minimiser les conséquences néfastes ou promouvoir les bonnes pratiques. 

Advanced  digital  technologies  and  services,  including  AI  tools,  come  with  extraordinary  promise,  particularly  in  the  form of enhanced efficiency, accuracy, timeliness and conve-nience across a wide range of services. Yet the emergence of these technologies is also accompanied by rising public anxi-ety regarding their potentially damaging effects for individu-als, for vulnerable groups and for society more generally.

Les technologies et services numériques de pointe, y compris les outils d’IA, sont extrêmement prometteurs, en particulier sous la forme d’une efficacité, d’une précision, d’une rapidité et  d’une  commodité  accrues  dans  un  large  éventail  de  ser-vices.  Mais  l’émergence  de  ces  technologies  s’accompagne  également d’une inquiétude croissante de l’opinion publique quant  à  leurs  effets  potentiellement  préjudiciables  pour  les  individus, pour les groupes vulnérables et pour la société en général.

Étant donné leur omniprésence dans la vie quotidienne, nous devons acquérir une meilleure compréhension de leur impact sur l’exercice des droits de l’homme et des libertés fondamen-tales, et nous devrions examiner avec soin l’attribution de la responsabilité en cas de conséquences défavorables. Si nous voulons  prendre  les  droits  de  l’homme  au  sérieux  dans  une  ère  numérique  mondialement  connectée,  nous  ne  pouvons  permettre que la puissance de nos technologies et systèmes numériques  avancés,  et  de  ceux  qui  en  tirent  profit,  s’accu-mule et s’exerce sans responsabilité.

Des mécanismes de gouvernance et d’application efficaces et démocratiquement légitimées doivent être mis en place pour s’assurer  que  la  responsabilité  des  risques,  des  préjudices  et  des torts découlant de l’exploitation des technologies numé-riques avancées est dûment attribuée.

Étude sur les incidences des technologies numériques avancées (dont l’intelligence artificielle) sur la notion de responsabilité,sous l’angle des droits humains préparée par le Comité d’experts sur les dimensions des droits de l’homme dans le traitement automatisé des données et les différentes formes d’intelligence artificielle (MSI-AUT)

Les acteurs publics et non-étatiques devraient lancer des recherches pour mieux comprendre les conséquences juridiques et éthiques liées touchant les droits de l’homme dans la prise de décision algorithmique, et pour mieux y répondre. Les évolutions technologiques devraient être suivies et étudiées pour voir les conséquences négatives potentielles, avec une attention particulière portée à l’utilisation de techniques algorithmiques de traitement lors des élections et des campagnes électorales. 

Il convient de mener des évaluations de l’impact sur les droits de l’homme avant d’utiliser la prise de décision algorithmique dans le secteur public. Des mécanismes de certification et d’audit des techniques de traitement automatisé des données devraient être élaborés pour veiller à leur conformité avec les droits de l’homme. Pour répondre aux conséquences négatives identifiées, une régulation expérimentale avec pour objectif de protéger les droits individuels et de garantir les objectifs de régulation pourrait être instaurée, à condition d’y adjoindre un suivi systématique de leurs effets. Les acteurs publics et non- étatiques devraient encourager le développement d’approches conceptuelles garantes des droits de l’homme et de l’éthique ainsi que l’adoption d’outils d’évaluation des risques plus pertinents afin de favoriser l’élaboration de logiciels qui respectent et protègent les valeurs fondamentales ou les principes éthiques et sociétaux de base. 

Il faut rendre les pouvoirs publics responsables des décisions qu’ils prennent sur la base de processus algorithmiques, qu’ils soient utilisés pour préparer ou pour prendre leurs décisions. De réels mécanismes devraient être adoptés pour accorder une réparation aux personnes qui subissent des décisions prises sur la foi d’algorithmes. 

Les algorithmes sont souvent des boîtes noires pour les consommateurs et les régulateurs. La transparence occupe donc une place croissante dans le débat public et politique et englobe des demandes d’examen des algorithmes, avant leur utilisation, par des auditeurs indépendants, des régulateurs et le grand public. La clé n’est pas la transmission de toutes les données possibles, mais plutôt la notion de « transparence réelle ».

Les institutions qui utilisent des processus algorithmiques devraient être encouragées à fournir des explications facilement accessibles sur la question des données utilisées par l’algorithme, des procédures suivies et des critères sur lesquels des décisions sont proposées. En outre, les sociétés qui élaborent les systèmes analytiques utilisés dans la prise de décision algorithmique et la collecte des données devraient sensibiliser sur les possibles biais liés à la conception des algorithmes.

Sensibiliser le public est essentiel. Il faut utiliser tous les moyens possibles pour informer le grand public afin que les utilisateurs soient en mesure de comprendre de manière critique la logique et le fonctionnement des algorithmes. Cela peut inclure, sans s’y limiter, des campagnes d’information et de sensibilisation aux médias.

Cependant, vu la complexité du sujet, il faut aussi de nouvelles institutions, d’autres réseaux et espaces où les différentes formes de prise de décision algorithmique sont analysées et évaluées de façon transdisciplinaire, axée sur les problèmes et les faits.