Les législateurs français doivent rejeter tout projet d’utilisation de la vidéosurveillance alimentée par l’intelligence artificielle (IA) aux Jeux olympiques de Paris en 2024. Une telle technologie de surveillance de masse draconienne viole le droit à la vie privée et peut entraîner des violations des droits à la liberté d’expression et de réunion pacifique. Cela pourrait entraîner des niveaux de contrôle dystopiques à l’avenir, a déclaré Amnesty International aujourd’hui, alors que le projet de loi proposé aux Jeux olympiques et paralympiques de 2024 est soumis au vote en plénière à l’Assemblée nationale française.

Reconditionner les forces de sécurité avec une surveillance de masse basée sur l’IA est un projet politique dangereux qui peut conduire à des violations généralisées des droits de l’homme. Toute action dans l’espace public sera aspirée dans le réseau des infrastructures de surveillance, portant atteinte aux libertés civiles fondamentales.

Agnès Callamard, secrétaire générale, Amnesty International

Le projet de loi a été approuvé par les sénateurs français en Janvier et, s’il était adopté, il légaliserait l’utilisation de systèmes de vidéosurveillance de masse alimentés par l’IA pour la première fois dans l’histoire de la France et de l’Union européenne. Cette colossale architecture de surveillance, selon le législateur français, est « expérimentale » et sera utilisée pour assurer la sûreté et la sécurité lors des matches. Amnesty International craint toutefois que le projet de loi n’étende les pouvoirs de la police en élargissant de manière permanente l’arsenal gouvernemental d’équipements de surveillance.

« Fournir aux forces de sécurité une surveillance de masse basée sur l’IA est un projet politique dangereux qui peut conduire à des violations généralisées des droits de l’homme. Toute action dans l’espace public sera aspirée dans le réseau des infrastructures de surveillance, portant atteinte aux libertés fondamentales des citoyens », a déclaré Agnès Callamard, secrétaire générale d’Amnesty International.

« Les parlementaires français n’ont pas réussi à prouver que cette loi respecte les principes de nécessité et de proportionnalité, qui sont fondamentaux pour garantir que les mesures de sécurité et de surveillance ne menacent pas les droits à la liberté de réunion et d’association, à la vie privée et à la non-discrimination. Bien que le besoin de sécurité pendant les événements soit compréhensible, le droit international des droits de l’homme s’applique toujours aux Jeux olympiques. Dans son format actuel, cette application de surveillance de masse basée sur l’IA est une grave violation du droit à la vie privée et d’autres droits.

Si des mesures de surveillance de masse alimentées par l’IA sont mises en œuvre, des millions de personnes – qu’elles se rendent dans des stades ou prennent les transports en commun pour accéder aux sites d’événements sportifs majeurs – seront suivies et surveillées. L’algorithme d’IA analyse et capture les données de tout le monde dans son rayon. La présence omniprésente de caméras de vidéosurveillance et de drones aux JO, qui permettaient aux officiels de détecter des activités « suspectes » ou « anormales » dans la foule, était particulièrement problématique.

« La définition officielle qui est trop large pour catégoriser les activités « suspectes » et « anormales » dans une foule est très préoccupante. Nous devons nous poser quelques questions urgentes : qui établit les normes de ce qui est « normal » ? Les responsables qui contrôlent la désignation d’activité « anormale ou suspecte » dans la société ont également le pouvoir d’exacerber l’effet dissuasif sur la dissidence et la protestation, et d’accroître la discrimination contre les communautés déjà ciblées », a déclaré Agnes Callamard.

Les menaces pour les droits de l’homme posées par le développement et l’utilisation de l’IA par des entreprises privées et des autorités publiques dans l’Union européenne (UE) sont bien documentées.

« Cette technologie renforce les politiques racistes et menace le droit de manifester. Les minorités ethniques – y compris les migrants et les personnes noires et brunes – sont les plus à risque d’être ciblées par certains outils de surveillance, en particulier les systèmes de reconnaissance faciale », a déclaré Agnès Callamard.

Ce projet de loi menace non seulement la vie privée et les droits de l’homme, mais trahit également l’esprit de la loi sur l’intelligence artificielle de l’Union européenne (UE) – un texte législatif d’importance mondiale qui vise à réglementer l’IA et à protéger les droits fondamentaux dans l’UE, où la France est un acteur influent. membre.

«Le projet de la France d’utiliser des mesures de surveillance perturbatrices pendant les Jeux olympiques devrait servir de signal d’alarme à l’UE. La première utilisation de cet appareil de sécurité dans l’UE pourrait finalement enfreindre les lois du bloc sur l’IA d’une manière qui risque de créer une crise des droits de l’homme par des violations flagrantes des droits de millions de personnes, qui sont surveillées sans le savoir et sans leur consentement. et potentiellement ciblés par les technologies expérimentales de surveillance de masse. Par le biais de négociations sur la loi sur l’IA, l’UE doit mettre fin à l’utilisation de la technologie de l’intelligence artificielle utilisée pour la surveillance de masse et le contrôle discriminatoire des civils. Nous appelons également à l’interdiction des systèmes de reconnaissance faciale utilisés pour la surveillance de masse », a déclaré Agnès Callamard.

Si la France légalise la surveillance de masse au niveau national, l’un des plus grands événements sportifs sur Terre risque de devenir l’une des plus grandes violations du droit à la vie privée de tous les temps.

Arrière-plan:

Le texte du projet de loi a été approuvé par le Sénat le 31 janvier et autorisé un obstacles législatifs le 8 mars après le vote de la commission.

dans un Lettre ouverte initiées par le Centre européen pour le droit des associations à but non lucratif, 38 organisations de la société civile, dont Amnesty International, ont appelé les décideurs politiques français à rejeter un projet de loi autorisant la surveillance invasive.

Amnesty International, avec une coalition d’organisations de la société civile menés par le Réseau européen des droits numériques (EDRi), ont appelé à une réglementation européenne conforme aux droits de l’homme pour les technologies et les pratiques d’intelligence artificielle.

Amnesty International a déjà documenté son utilisation des milliers de caméras CCTV avec des capacités de reconnaissance faciale dans toute la ville de New York, dont beaucoup sont utilisés dans les communautés de couleur et renforcent les politiques de discrimination raciale.

Suivre Jeux olympiques de Londres en 2012de nombreuses mesures de contrôle utilisées pour la sécurité lors d’événements deviennent permanentes.