10 mai 2022
Aujourd’hui, une coalition mondiale de 53 organisations de la société civile s’est réunie pour appeler les membres du Parlement européen à utiliser leurs pouvoirs démocratiquement élus pour nous protéger tous de la pratique de la surveillance biométrique de masse. L’UE ne doit pas légitimer cette pratique néfaste. Sinon, les législateurs de l’UE risquent de créer un précédent pour l’utilisation de technologies basées sur l’IA qui peuvent détruire à jamais l’anonymat des gens et supprimer nos divers droits et libertés.
Bruxelles, mardi 10 mai 2022
Cher membre du Parlement européen,
Nous vous écrivons aujourd’hui en tant que 53 organisations pour vous demander : Défendrez-vous nos droits en interdisant la surveillance biométrique de masse dans l’intelligence artificielle ? Loi?
En Europe et dans le monde, l’utilisation de identification biométrique à distance (RBI) tels que la reconnaissance faciale, dans notre espace accessible au public, représentent l’une des plus grandes menaces pour les droits fondamentaux et la démocratie nous avons vu.
Utilisation à distance d’un tel système détruire la possibilité de l’anonymat en publicet sape l’essence de notre droit à la vie privée et à la protection des données, le droit à la liberté d’expression, le droit de se réunir et de s’associer librement (ce qui conduit à la criminalisation des manifestations et a des effets désastreux), et le droit à l’égalité et à la non-discrimination .
Sans interdiction pure et simple de l’utilisation à distance de cette technologie dans les espaces accessibles au public, tous les lieux où nous exerçons nos droits et nous rassemblons en tant que communauté se transformeront en lieux de surveillance de masse où nous serons tous traités comme des suspects.
Cette perte n’est pas hypothétique. Les musulmans ouïghours ont été systématiquement persécutés par le gouvernement chinois grâce à l’utilisation de la reconnaissance faciale. Les manifestants pro-démocratie et les opposants politiques ont été réprimés ou ciblés en Russie, Serbie et Hong Kong par l’utilisation – et dans certains cas, même par la simple peur d’utiliser – RBI dans des espaces accessibles au public. Et de nombreuses personnes ont été arrêtées à tort et de manière traumatisante dans le monde entier.
En réponse à la prolifération croissante de ces utilisations et aux dangers qu’elles représentent, les gens repoussent et demandent leur interdiction. Plus de 24 États américains ont pris des mesures contre la reconnaissance faciale ou d’autres formes de surveillance biométrique de masse. En Amérique du Sud, deux récemment décisions à São Paulo et Buenos Aires a ordonné la suspension du système de reconnaissance faciale.
Certains des plus grands fournisseurs mondiaux de systèmes de surveillance biométrique – Microsoft, Amazon et IBM – ont même adopté moratoire auto-imposé à cause des grands risques et dangers dont ils savent qu’ils sont perpétués par leurs systèmes ; et Facebook a été supprimé le sien base de données d’images de visages de masse.
Malgré les fortes protections accordées aux données biométriques dans les lois européennes sur la protection des données, nous voyons des entreprises et des autorités publiques abuser systématiquement du « consentement » et de vagues justifications de sécurité comme base pour utiliser la reconnaissance faciale et d’autres systèmes biométriques de la même manière. intrinsèquement disproportionné surveillance de masse entraine toi.
Alors que les pays démocratiques du monde entier prennent des mesures pour protéger leurs communautés, l’UE est aller dans le sens contraire.
Une interdiction claire et sans ambiguïté est nécessaire dans la loi IA pour arrêter ee dangereux statu quo. En 2021, le Parlement européen a adopté une position ferme contre la pratique de la surveillance de masse de la biométrie dans l’IA dans un rapport de droit pénal, appelant à : « Interdiction de traiter des données biométriques, y compris des images faciales, à des fins répressives conduisant à une surveillance de masse dans des espaces accessibles au public » (article 31).
La loi sur l’IA est un moyen clair de traduire cette importante résolution du Parlement européen en une législation contraignante et percutante.
Le besoin urgent d’actions supplémentaires a également été reconnu au niveau des États membres de l’UE. Italie introduit Le premier moratoire en Europe sur la reconnaissance faciale publique. Que Allemand gouvernement de coalition a demande une interdiction de la surveillance biométrique de masse à l’échelle de l’UE entraine toi. PortugaisAl laissez tomber une loi qui légaliserait une certaine surveillance biométrique de masse entraine toi. Et Belgique le parlement est envisager un moratoire sur la surveillance biométrique.
Allez-vous écrire (le bon type) d’histoire ?
Déjà disponible important Preuve que les résidents européens ont été systématiquement soumis à des pratiques de surveillance biométrique de masse. Depuis Fans de footballaux écoliers, aux navetteurs, aux acheteurs, aux les personnes qui fréquentent les bars et lieux de culte LGBTQ+, les dangers sont réels et communs. Grâce à la campagne Reclaim Your Face, plus de 70 000 citoyens de l’UE exhortez-vous, ainsi que vos collègues députés, à mieux nous protéger de ce système biométrique antidémocratique et dangereux.
Dans le monde, plus de 200 organisations de la société civile, du Burundi à Taïwan, ont signé une lettre réclamant une global interdiction de surveillance biométrique. En tant que première région à réglementer de manière exhaustive l’intelligence artificielle, les actions de l’UE – ou inaction – aura gros conséquences sur la pratique de la surveillance de masse de la biométrie aux quatre coins du monde.
Alors que des dizaines d’États américains apprennent d’horribles erreurs comme la reconnaissance faciale activée répression des manifestants de Black Lives Mattergouvernement dans IndeLa Chine et la Russie évoluent dans des directions opposées. De quel côté de l’histoire de l’Union européenne : légitimer surveillance technologique autoritaire, ou choisir droits fondamentaux?
Comment pouvons-nous faire en sorte que cela se produise dans la loi sur l’IA?
La loi sur l’IA devrait interdire toute utilisation de l’identification biométrique à distance (RBI) (c’est-à-dire la surveillance générale) dans les espaces accessibles au public. Cela signifie que les utilisations telles que le déverrouillage d’un smartphone ou l’utilisation d’une passerelle de passeport électronique ne seront pas interdites. Alors que l’article 5, paragraphe 1, point d), vise déjà à interdire certaines utilisations du RBI, son champ d’application est si étroit et contient tant d’exceptions que fournir pratiquement la base juridique d’une bonne pratique, en fait, déjà interdit en vertu de la protection des données existante règle.
Nous vous demandons donc de proposer des modifications à l’article 5, paragraphe 1, point d), qui :
- Étendre le champ d’application de l’interdiction à tous les acteurs privés et publics ;
- Veiller à ce que tout l’utilisation de RBI (en temps réel ou postal) dans les espaces accessibles au public est interdite ; et
- Supprimer les exceptions aux interdictions, qui indépendant droits humains évaluerment assurez-vous qu’il ne respecte pas les normes européennes en matière de droits fondamentaux.
Pour assurer une approche globale de la protection des données biométriques, nous vous invitons également à profiter des opportunités offertes par la loi sur l’IA pour arrêter les formes discriminatoires ou manipulatrices de catégorisation biométrique, et à traiter les risques de reconnaissance des émotions de manière appropriée.
L’UE vise à créer un « écosystème de confiance et d’excellence » pour l’IA et à devenir le leader mondial de l’IA digne de confiance. Atteindre cet objectif signifie arrêter les applications d’IA qui sapent la confiance, violent nos droits et transforment nos espaces publics en cauchemars de surveillance. Nous pouvons promouvoir une IA qui sert vraiment les gens, tout en éliminant les applications les plus dangereuses de cette technologie de pointe.
C’est pourquoi la voie de l’UE devrait vraiment mettre les gens à cœur, et pour soumis amendements au rapport IMCO-LIBE sur la loi AI qui seraassurez-vous que l’original interdire sur surveillance biométrique de masse entraine toi.
signé,
Récupérez votre visage
Signataires de l’organisation :
Accéder maintenant (International)
montre d’algorithme (L’Europe )
Alternative Bilissim (AIA- Association of Alternative Informatics) (Turquie)
anna elbe – Weitblick für Hamburg (Allemand)
ARTICLE 19 : Campagne mondiale pour la liberté d’expression (International)
Asociatia pentru Technologie sur Internet – ApTI (Roumanie)
Barracon numérique (Honduras)
Montre de frère (Grande Bretagne)
Un peu de liberté (Néerlandais)
Plan directeur pour la liberté d’expression (International)
Centre des libertés civiles (Ukraine)
Chaos Computer Club (Allemand)
Union des libertés civiles pour l’Europe (L’Europe )
D3 – Defesa dos Direitos Digitais (Le Portugal)
Surveillance des droits numériques (Australie)
courage numérique (Allemand)
Freiheit numérique (Allemand)
Digitale Gesellschaft (Allemand)
Digitale Gesellschaft CH (Suisse)
Državljan D / Citoyen de D (Slovénie / Europe)
Fondation d’éthique (Europe / Internationale)
Centre européen de droit à but non lucratif pour Stichting (ECNL) (Europe)
Droits numériques européens (EDRi) (International)
Forum européen des personnes handicapées (FED) (L’Europe )
Fachbereich Informatik und Gesellschaft, Gesellschaft für Informatik eV (Allemand)
Procès équitable (International)
Se battre pour l’avenir (Les états-unis d’Amérique)
Supporters européens de football (FSE) (L’Europe )
Hermès . Centre (Italie)
hyperderecho (Par)
Gay Digitale (Grèce)
Dialogue sur la réforme du droit de l’Internet (iLaw) (Thaïlande)
Société de protection Internet (Russie / Europe)
Association Jonction pour les droits et libertés (Tunis)
Pol informatique danoise (Danemark)
Initiative de droit international (Kazakhstan)
Iuridicum Remedium (IuRe) (République Tchèque)
JCA-NET (Japon)
Réseau progressiste Jinbonet Corée (République de Corée)
La Quadrature du Net (France)
Fondation des avocates des femmes (International)
LaLibre.net Tecnologias Counitarias (Équateur / Amérique Latine)
Ligue des droits de l’Homme (LDH) (Français)
Ligue des droits humains (Belgique)
LOAD eV – Association pour une politique Internet libérale (Allemand)
Masaar – Communauté technique et juridique (Egypte)
Fondation Panoptykon (Pologne)
Confidentialité internationale (International)
Réseau de confidentialité (Italie)
montre pays (L’Europe )
Utilisateurs numériques (Équateur)
Wikimédia Allemagne (Allemagne / Europe)
Wikimédia français (France / Europe)
Signataires individuels :
Douwe KorffProfesseur émérite de droit international
Dr Vita PaonAnthropologiste
Edson PrestesProfesseur ordinaire, Université fédérale du Rio Grande do Sul (Brésil)
Remarques
Par exemple: https://www.aclu.org/news/privacy-technology/i-did-nothing-wrong-i-was-arrested-anyway; https://www.nytimes.com/2020/12/29/technology/facial-recognition-misidentifier-jail.html; https://www.wired.com/story/wrongful-arrests-ai-derailed-3-mens-lives/; https://edri.org/our-work/dangerous-by-design-a-cautionary-tale-about-facial-recognition/; https://www.law.georgetown.edu/privacy-technology-center/publications/garbage-in-garbage-out-face-recognition-on-flawed-data/
L’article 9, paragraphe 4, du règlement général sur la protection des données prévoit une protection supplémentaire des données biométriques : « Les États membres peuvent maintenir ou introduire des conditions supplémentaires, y compris des restrictions, concernant le traitement des données biométriques ».
Cela devrait être soutenu par le nouveau considérant afin de mieux définir les cas d’utilisation « à distance » comme des cas où une caméra/un appareil est monté à une distance qui crée la capacité de scanner plusieurs personnes, qui pourraient théoriquement en identifier une ou plusieurs à leur insu. Les avertissements n’invalident pas une telle définition.
Image: Ashley, CC BY-NC-ND 2.0
« Érudit primé au bacon. Organisateur. Fanatique dévoué des médias sociaux. Passionné de café hardcore. »
