L'importance de la protection des droits de l'homme, y compris les droits sociaux, reste d'autant plus pertinente à l'heure actuelle, lorsqu'ils sont mis en péril par l'utilisation de la prise de décision assistée par ordinateur ou par l’intelligence artificielle par les autorités publiques dans le domaine des services sociaux.
Dans une déclaration adoptée le 17 mars 2021, le Comité des Ministres du Conseil de l'Europe attire l'attention des Etats membres, entre autres, sur :
- les risques éventuels pour les droits de l'homme, y compris les droits sociaux, qui pourraient découler de l'utilisation par les autorités publiques, dans le domaine des services sociaux, d'un processus décisionnel assisté par ordinateur ou reposant sur l'intelligence artificielle ;
- la nécessité de veiller à ce que les systèmes de prise de décision assistée par ordinateur ou reposant sur l'intelligence artificielle soient élaborés et mis en œuvre conformément aux principes de sécurité juridique, de légalité, de qualité des données, de nondiscrimination et de transparence ;
- la nécessité d'un contrôle humain des décisions assistées par ordinateur ou reposant sur l’intelligence artificielle afin d'limiter et/ou d'éviter les erreurs dans la gestion ;
- la nécessité de mettre en place des dispositifs efficaces pour protéger les personnes vulnérables contre un préjudice grave ou irréparable.
