Droits sociaux

L'importance de la protection des droits de l'homme, y compris les droits sociaux, reste d'autant plus pertinente à l'heure actuelle, lorsqu'ils sont mis en péril par l'utilisation de la prise de décision assistée par ordinateur ou par l’intelligence artificielle par les autorités publiques dans le domaine des services sociaux.

Dans une déclaration adoptée le 17 mars 2021, le Comité des Ministres du Conseil de l'Europe attire l'attention des Etats membres, entre autres, sur :

• les risques éventuels pour les droits de l'homme, y compris les droits sociaux, qui pourraient découler de l'utilisation par les autorités publiques, dans le domaine des services sociaux, d'un processus décisionnel assisté par ordinateur ou reposant sur l'intelligence artificielle ;
• la nécessité de veiller à ce que les systèmes de prise de décision assistée par ordinateur ou reposant sur l'intelligence artificielle soient élaborés et mis en œuvre conformément aux principes de sécurité juridique, de légalité, de qualité des données, de nondiscrimination et de transparence ;
• la nécessité d'un contrôle humain des décisions assistées par ordinateur ou reposant sur l’intelligence artificielle afin d'limiter et/ou d'éviter les erreurs dans la gestion ;
• la nécessité de mettre en place des dispositifs efficaces pour protéger les personnes vulnérables contre un préjudice grave ou irréparable.

Si l'intelligence artificielle (IA) et l'apprentissage automatique présentent des avantages avérés, les pouvoirs publics doivent veiller à ce que les valeurs éthiques soient appliquées pour tous sans entraîner de disparité en matière de respect des droits sociaux et de la cohésion sociale. Car son utilisation comporte également des risques. Il convient d'adopter une approche proactive visant à garantir que les personnes concernées par des décisions assistées par ordinateur ou reposant sur l’intelligence artificielle dans le domaine des services sociaux, en particulier les personnes en situation d'extrême pauvreté ou de vulnérabilité, puissent effectivement faire valoir leurs droits et demander réparation. À cet égard, une explication adaptée au contexte et au public spécifiques devra être fournie aux personnes concernées. Cette explication devrait au moins fournir les éléments nécessaires pour permettre à une personne de comprendre et de contester une décision qui a été informée ou prise par un système d'intelligence artificielle et qui affecte sa situation juridique ou sa vie de manière substantielle.