Contrôle social / Répression

SURVEILLANCE : La police fédérale commande une technologie de reconnaissance faciale

Début août, la Police Fédérale lançait un appel d’offre pour la « maintenance de la solution d’analyse d’images pour la vidéosurveillance ‘Briefcam’ », un logiciel de surveillance israélien dont fait usage la police judiciaire fédérale. Dans cet appel d’offre, la police exige que la technologie soit capable de « reconnaitre les visages ». Une requête qui inquiète, quand on sait que la police belge a déjà utilisé illégalement un logiciel de reconnaissance faciale américain en 202O (Clearview IA), et qu’elle avait peiné à le reconnaitre publiquement. A l’époque, la police avait d’abord démenti les révélations du média Buzzfeed sur l’usage du logiciel. La police en faisait usage alors même qu’aucun cadre légal n’existait dans la loi belge, ces pratiques étaient donc illégales. Finalement, la ministre de l’Intérieur A. Verlinden (CD&V) avait était contrainte de reconnaitre l’usage de la reconnaissance faciale, tout en assurant qu’aucune « utilisation structurelle » n’en était faite. Nos homologues du média Apache pondèrent néanmoins cette déclaration de la ministre de l’intérieur : en réalité il est extrêmement difficile, voire carrément impossible d’être certain que la police belge n’y a pas recours. Avec l’implantation progressive de caméras intelligentes (elles aussi adaptées à la reconnaissance faciale) dans nos rues et l’absence de cadre légal, cela laisse présager un usage complètement abusif sur lequel nous n’avons aucun contrôle. Depuis plusieurs mois, un certain nombre d’organisations et notamment la Ligue des Droits Humains (LDH) se mobilisent autour de l’action « protect my face », pour une interdiction totale de l’usage de ces technologies de reconnaissance faciale. Le fait que le gouvernement belge recourt à des pratiques contraires à la loi et qu’il passe outre les condamnations en justice inquiète la Cour Européenne des Droits de l’Homme « […] le gouvernement belge ignore systématiquement et à grande échelle […] les décisions judiciaires. » Une asymétrie d’information apparaît nettement : d’un côté, la police s’arme pour recueillir de nouvelles informations ; de l’autre, nous faisons face à une législation opaque (voir inexistante) et à des déclarations mensongères. Ainsi, l’Etat belge semble adopter un comportement toujours plus autoritaire en matière de surveillance. Un gadget sécuritaire en appel toujours un autre, les atteintes aux libertés se succèdent, et la surveillance de masse s’installe. (desc) Lien de la pétition contre la reconnaissance faciale : https://www.liguedh.be/une-petition-pour-interdire-la-reconnaissance-faciale-da Sources : https://www.apache.be/2023/09/21/federale-politie-bestelt-technologie-voor-gezichtsherkenn https://www.liguedh.be/une-petition-pour-interdire-la-reconnaissance-faciale-da (sur « l’Etat de droit » en Belgique) https://www.apache.be/dossier/rechtsstaat-op-flanellen-benen

Belgique | Publié le 19/10/2023

Contrôle social / Répression

UE : Le Parlement légifère sur l’utilisation de l’IA dans la reconnaissance biométrique

Les eurodéputés ont voté en plénière la législation pour encadrer les IA. Les systèmes d’IA présentant un niveau de risque inacceptable pour la sécurité des personnes seront interdits, comme ceux qui sont utilisés pour la notation sociale (classifiant les personnes en fonction de leur comportement social ou de leurs caractéristiques personnelles), et ainsi que les utilisations intrusives et discriminatoires de l’IA, telles que : – les systèmes d’identification biométriques à distance en « temps réel » dans les espaces accessibles au public ; – les systèmes d’identification biométrique à distance « a posteriori », à la seule exception des forces de l’ordre pour la poursuite de crimes graves, et seulement après autorisation judiciaire ; – les systèmes d’identification biométrique utilisant des caractéristiques sensibles (par exemple, le genre, la race, l’origine ethnique, le statut de citoyen, la religion, l’orientation politique) ; – les systèmes de police prédictive (fondés sur le profilage, la localisation ou le comportement criminel passé) ; – les systèmes de reconnaissance des émotions utilisés dans les services répressifs, la gestion des frontières, le lieu de travail et les établissements d’enseignement ; – la saisie non ciblée d’images faciales provenant d’internet ou de séquences de vidéosurveillance en vue de créer des bases de données de reconnaissance faciale (ce qui constitue une violation des droits humains et du droit au respect de la vie privée). Ce vote survient après deux ans de négociations et le dépôt de près de 3.000 amendements. Un débat avait eu lieu au parlement jusqu’à la dernière minute, suite au dépôt d’amendements autorisant le couplage IA/identification biométrique en temps réel pour la lutte anti-terroriste et la recherche des personnes disparues… Cet amendement n’est pas passé, mais la Commission continue à vouloir autoriser cette pratique de surveillance de masse dans la lutte contre la le terrorisme.

Partout | Publié le 27/06/2023

Racismes / Colonialismes

Pour l’interdiction de la reconnaissance faciale

Plusieurs associations s’invitent au Parlement bruxellois pour revendiquer l’interdiction de la reconnaissance faciale. Ce mardi 13 juin 2023, la coalition #Protectmyface*** qui rassemble huit associations bruxelloises de défense des droits humains sera auditionnée par le Parlement bruxellois. Elle appellera les député·es à se positionner contre l’usage de la reconnaissance faciale dans l’espace bruxellois. Cette technologie n’est pas légale en Belgique mais des tests ont déjà été réalisés par la police fédérale à plusieurs reprises. Il n’existe par ailleurs aucun frein technique à son implantation à Bruxelles. Cette technologie de surveillance biométrique menace les libertés et droits fondamentaux de chacun·e. La campagne #Protectmyface invite le Parlement à protéger les données personnelle de toutes les personnes qui circulent sur son territoire. La coalition #Protectmyface, qui réunit huit associations francophones et néerlandophones, saisit cette opportunité d’audition devant la Commission des affaires intérieures du Parlement bruxellois ce mardi 13 juin. Elle va porter la voix de plus des 1000 Bruxellois·es qui ont signé la pétition appelant à interdire l’usage de la reconnaissance faciale dans l’espace public bruxellois. Installer l’infrastructure, tester des logiciels, éluder les questions éthiques Cette technique d’analyse biométrique qui utilise les caractéristiques du visage (la longueur du front, l’écartement des yeux, les arêtes du nez, la distance entre la bouche et le nez, etc.) pour identifier une personne, en les croisant avec une base de données, est interdite en Belgique, puisqu’il n’existe pas de base légale. Malgré cela, depuis plusieurs années, des tests ont été réalisés par la police fédérale, en toute opacité et sans débat démocratique. Des logiciels tels que le très controversé Clearview AI sont testés et l’infrastructure nécessaire est installée, alors que les questions éthiques et d’impact sur les personnes sont totalement éludées. Or, les risques que comporte cette technologie sont connus : l’usage de la reconnaissance faciale entrave le droit à l’anonymat dans l’espace public, celui de manifester, la liberté de réunion, entraînant, selon des recherches menées notamment en Grande-Bretagne, un « chilling effect », effet paralysant les personnes se restreignant elles-mêmes dans leurs comportements. Cette technologie renforce également les discriminations existantes, par exemple vis-à-vis des communautés déjà plus largement ciblées par les contrôles policiers. Enfin, les risques de fuites et de piratage de données personnelles très sensibles comme celles récoltées par la reconnaissance faciale sont loin d’être inexistants, surtout à Bruxelles, capitale de l’Union européenne, siège de l’OTAN et de nombreuses institutions. Bruxelles peut être une ville exemplaire Bruxelles peut protéger ses citoyen·nes de cette technologie invasive, d’autres villes l’ont fait avant elle, comme Lausanne et...

Bruxelles | Publié le 14/06/2023

Contrôle social / Répression

#PROTECTMYFACE : WE DID IT !

vendredi 2 Juin : #PROTECTMYFACE WE DID IT ! Nous avons récolté plus de 1000 signatures pour faire interdire l’usage de la reconnaissance faciale dans l’espace public bruxellois ! Merci beaucoup à celles et ceux qui ont soutenu la pétition ❤️ Ce cap des 1000 signatures nous permettra d’aller défendre l’interdiction de la reconnaissance faciale devant la Commission des affaires intérieures du Parlement bruxellois. Stay tuned ! Bruxelles peut être une ville exemplaire ! Lausanne et Zurich en Suisse ont décidé d’interdire cette technologie sur leur territoire ! Pour suivre la campagne #ProtectMyFace

Bruxelles | Publié le 3/06/2023

Contrôle social / Répression

Reconnaissance faciale : comment y échapper ?

Lundi 08 mai à 18h30, table ronde avec avec Remy Farge (LDH - Ligue des droits humains), Peggy Pierrot (Tactic), Chloe Berthelemy (EDRi - European Digital Rights) et Corentin (Technopolice). Récemment, une fuite de données révélait l’usage par la police belge du logiciel de reconnaissance faciale de Clearview AI. Ce logiciel, controversé, permet d’opérer un recoupement entre des images de vidéo-surveillance et les profils des utilisateurs·rices de réseaux sociaux. Si l’usage de logiciels de reconnaissance faciale reste officiellement interdit, des tests ont déjà été réalisés et certains partis encouragent l’usage et le déploiement de ces technologies. Dans ce contexte, la campagne #ProtectMyFace, lancée par un groupe d’associations, vise à interdire la reconnaissance faciale en Région bruxelloise. Pour ces associations, le déploiement de ces technologies est particulièrement nuisibles à nos droits et nos libertés. Mais en quoi consistent ces technologies ? Pourquoi sont-elles problématiques ? Pourquoi, entre autres, rendent-elle ceraines populations minoritaires particulièrement vulnérables ? Ce lundi 8 mai, nous vous invitons à discuter des enjeux de la reconnaissance faciale avec Remy Farge (LDH - Ligue des droits humains), Peggy Pierrot (Tactic), Chloe Berthelemy (EDRi - European Digital Rights) et Corentin (Technopolice) Durant cette même soirée, des membres de Technopolice proposeront un atelier d’autodéfense numérique et nous fêterons la sortie du premier numéro de Curseurs, la nouvelle revue à l’initiative de Tactic asbl. Informations pratiques : Lieu : Le DK, Rue de Danemark 70b à Saint Gilles (proximité place Bethléem) Accueil/Permanence 17h : Atelier d’autodéfense numérique avec Technopolice Table ronde à 18h30 : Reconnaissance faciale, comment y échapper ? Informations : info@ateliers-dk.be Chaque 2e lundi du mois, les ateliers de réflexion et d’action critiques sur le numérique au DK, se proposent d’aborder des sujets en lien avec le numérique (par exemple, sur les algorithmes, le capitalisme de surveillance, les impacts écologiques, etc.) et d’explorer des manières de faire alternatives (découverte d’outils libres et éthiques, dégooglisation de smartphones, protection des communications, etc.) Ces soirées se dérouleront en deux parties : A 18h30, présentation suivie d’une discussion ou atelier thématique. N’hésitez pas à nous faire des propositions à l’adresse info@ateliers-dk.be Dès 17h, accueil, bar, permanence et moment de rencontres ’libres” et informelles. Venez poser vos questions, discuter de vos idées et proposer vos projets. Ce moment pourra être l’opportunité de partager des ateliers en petits groupes, de découvrir des logiciels et de rencontrer différentes associations qui s’engagent pour un numérique émancipateur. Crédits Images Y@nnickR (CC BY-NC-ND 2.0)

Bruxelles | Publié le 3/05/2023

Contrôle social / Répression

Pétition pour l’interdiction de la reconnaissance faciale à Bruxelles

Une pétition pour interdire la reconnaissance faciale dans l’espace public bruxellois Une coalition d’associations [1] rassemblée autour du slogan “Protect my face” dépose une pétition au Parlement bruxellois pour demander l’interdiction de la reconnaissance faciale dans l’espace public à Bruxelles. Les associations craignent que la légalisation et l’usage de cette technologie n’entravent les droits fondamentaux, particulièrement des minorités. Elles appellent le Parlement bruxellois à interdire cette technologie. Identifier sur base des caractéristiques du visage Dans cette pétition, les associations visent la reconnaissance faciale quand elle est utilisée à des fins d’identification. Elle permet par exemple, d’identifier une personne au milieu d’une foule au moyen de sa biométrie (mesure de l’écartement des yeux, des arêtes du nez, etc.) consignée dans une base de données. Les enjeux en termes de protection des données personnelles et de risques d’atteinte aux libertés individuelles que cette technologie induit sont considérables. Les associations qui portent cette pétition entendent lancer un débat démocratique autour de cette technologie qui n’est pas autorisée en Belgique mais qui a pourtant déjà été utilisée plusieurs fois par la police fédérale et locale. Malgré l’absence de cadre légal… Aujourd’hui, il n’existe aucun cadre légal permettant à la police de recourir aux technologies de reconnaissance faciale en Belgique. Pourtant, la police fédérale a réalisé en 2020 une septantaine de recherches avec le logiciel très controversé Clearview IA dans le cadre de réunions Europol. En 2017 déjà puis en 2019, la reconnaissance faciale était aussi testée par la police fédérale à l’aéroport de Zaventem. Pour chacune de ces deux enquêtes relatives à des projets-test, l’organe de contrôle de l’information policière (le COC) exigera la fin de ces expérimentations car aucune base légale suffisante n’existe. Par ailleurs, selon une recherche menée par la KULeuven en Flandre et en région bruxelloise, au moins 5 zones de police locale sur 86 répondantes disposaient de la reconnaissance faciale, l’une d’elle affirmant même l’utiliser « souvent à très souvent ». Il est inadmissible que des tests soient réalisés en toute opacité. L’usage de la reconnaissance faciale n’est donc pas légal en Belgique mais il persiste dans le chef de la police et de la ministre de l’Intérieur une volonté d’utiliser cette technologie. Libertés et droits entravés L’usage de la reconnaissance faciale par la police et les autorités entravera de nombreux droits et libertés : le droit au respect de la vie privée, le droit à l’anonymat, la liberté de circulation, d’association, de réunion, de rassemblement et de manifestation, le droit à ne pas être discriminé·e, etc. Utiliser la reconnaissance faciale dans l’espace public reviendrait à contrôler automatiquement l’identité de chaque personne à chaque coin de rue. Cette technologie implique d’importants risques :...

Bruxelles | Publié le 14/03/2023

Guerre / Antimilitarisme

Police : Nouveau véhicule de contrôle des foules

Depuis quelques temps, la police belge teste un nouveau gadget : l’UMS Viséo. Il s’agit d’un véhicule-cabine, capable d’atteindre les 45km/h. La cabine est équipée de 4 caméras dont les images peuvent être enregistrée et/ou retransmises en direct aux agent.e.s par 4G. Autre fait important : la cabine peut s’élever jusqu’à 4m de haut, et avoir ainsi un regard d’ensemble sur la foule. Cette nouveauté fait partie du plan global du gouvernement qui vise à augmenter le budget et l’arsenal répressif de la police [1], mais aussi à permettre une gestion du maintien de l’ordre plus directe et plus répressive [2]. Rappelons que la police belge a récemment testé l’usage de tasers, de bodycams, d’un logiciel de reconnaissance faciale illégal, ainsi que d’un camion-barrière anti-émeute. La combinaison entre l’augmentation drastique du nombre de gadget équipés de caméras, et les tests de reconnaissance faciale laisse présager le pire pour les années à venir. Contre la logique policière et répressive, nous soutenons le désarmement d’une police structurellement raciste et sexiste dont le rôle se limite au contrôle social.

Belgique | Publié le 31/08/2022