Intelligence artificielle : le parlement européen vote une résolution contre la surveillance de masse

Le parlement européen a voté lundi une résolution visant à interdire l’usage de l’intelligence artificielle pour la surveillance de masse. Il demande de mettre en place des garde-fous et une supervision de cette technologie par des êtres humains. Ceux-ci devraient aussi prendre les décisions finales.

Un parlement divisé sur la question

Les eurodéputés ont voté, le lundi 4 octobre, à leur siège à Strasbourg (France), une résolution visant à interdire l’utilisation de l’intelligence artificielle par la police pour la surveillance de masse. Signe d’une profonde division sur la question, le texte a été adopté à 377 voix pour, 248 contre et 62 abstentions. Les principaux contestataires se trouvaient parmi les conservateurs du PPE et les députés d’extrême droite du groupe ID. En revanche, les élus de gauche, les libéraux et les écologistes y étaient favorables.

« Pour la première fois, nous demandons un moratoire sur le déploiement des systèmes de reconnaissance faciale […] car cette technologie s’est avérée inefficace et conduit souvent à des résultats discriminatoires. […] C’est une grande victoire pour tous les citoyens européens. », a déclaré le rapporteur de la résolution, l’eurodéputé socialiste bulgare Petar Vitanov. Dans leur texte, les élus font part de leurs inquiétudes sur la propension de l’IA à identifier incorrectement « les minorités ethniques, les personnes LGBTI, les seniors et les femmes ». Ils préconisent le recours aux logiciels et algorithmes open source pour plus de transparence, de traçabilité et pour une meilleure documentation.

Mettre ces systèmes sous le contrôle et la supervision des humains

Aussi, les députés de l’UE réclament l’interdiction permanente de la reconnaissance faciale des individus dans l’espace public, au nom du respect de la vie privée des citoyens. « Imaginez que vous ne soyez plus anonyme, ne réfléchirez-vous pas à deux fois avant d’aller à une manifestation ? », a questionné Petar Vitanov. On autorise tout de même une exception dans le cadre d’une suspicion de crimes. En outre, les auteurs de la résolution voudraient interdire l’usage de bases de données biométriques. Celles-ci servent à identifier de façon automatisée des personnes et anticiper leurs comportements, notamment aux frontières. Là encore on est prêt à faire une exception pour des gens soupçonnés de délits.

Par ailleurs, les eurodéputés demandent que toutes ces technologies soient supervisées par les humains, qui auront le dernier mot. « Les décisions finales doivent toujours être prises par un être humain et les personnes soumises à des systèmes alimentés par l’IA doivent disposer de voies de recours », a suggéré Petar Vitanov. Les eurodéputés ont également exprimé des craintes sur des pratiques connexes comme le système de notation sociale, déjà appliqué en Chine. Ce dispositif discriminatoire distingue les « bons » citoyens des « mauvais ». Il suscite un véritable tollé parmi la population chinoise, surtout chez les universitaires.

Un texte qui n’a pas valeur de loi

« Le vote d’aujourd’hui représente un moment historique, car le Parlement européen a pris une position audacieuse contre les utilisations risquées inacceptables de l’IA comme la surveillance de masse biométrique et la prévision policière », a salué Ella Jakubowska, conseillère pour l’European Digital Rights (EDRi), un réseau collectif d’ONG, d’experts, de défenseurs et d’universitaires travaillant pour défendre et faire progresser les droits numériques en Europe.

Si l’adoption de cette résolution constitue une victoire, notons que le texte n’a pas valeur de loi et ne présente aucune contrainte juridique. Il sonne seulement comme une alerte envoyée à la Commission européenne avant le vote de l’Artificial Intelligence Act ( loi européenne sur l’intelligence artificielle).