Les eurodéputés ont voté en plénière la législation pour encadrer les IA. Les systèmes d’IA présentant un niveau de risque inacceptable pour la sécurité des personnes seront interdits, comme ceux qui sont utilisés pour la notation sociale (classifiant les personnes en fonction de leur comportement social ou de leurs caractéristiques personnelles), et ainsi que les utilisations intrusives et discriminatoires de l’IA, telles que :
– les systèmes d’identification biométriques à distance en « temps réel » dans les espaces accessibles au public ;
– les systèmes d’identification biométrique à distance « a posteriori », à la seule exception des forces de l’ordre pour la poursuite de crimes graves, et seulement après autorisation judiciaire ;
– les systèmes d’identification biométrique utilisant des caractéristiques sensibles (par exemple, le genre, la race, l’origine ethnique, le statut de citoyen, la religion, l’orientation politique) ;
– les systèmes de police prédictive (fondés sur le profilage, la localisation ou le comportement criminel passé) ;
– les systèmes de reconnaissance des émotions utilisés dans les services répressifs, la gestion des frontières, le lieu de travail et les établissements d’enseignement ;
– la saisie non ciblée d’images faciales provenant d’internet ou de séquences de vidéosurveillance en vue de créer des bases de données de reconnaissance faciale (ce qui constitue une violation des droits humains et du droit au respect de la vie privée).

Ce vote survient après deux ans de négociations et le dépôt de près de 3.000 amendements. Un débat avait eu lieu au parlement jusqu’à la dernière minute, suite au dépôt d’amendements autorisant le couplage IA/identification biométrique en temps réel pour la lutte anti-terroriste et la recherche des personnes disparues… Cet amendement n’est pas passé, mais la Commission continue à vouloir autoriser cette pratique de surveillance de masse dans la lutte contre la le terrorisme.