Crédit d’image : Paul Sawers/TechCrunch

Les législateurs de l’UE sont sur la bonne voie pour interdire l’utilisation de la surveillance biométrique à distance à des fins générales d’application de la loi. Mais cela n’a pas empêché les législateurs français de voter en faveur de l’utilisation de l’IA pour surveiller les espaces publics à la recherche de comportements suspects lors des Jeux olympiques de Paris en 2024.

Jeudi, le Parlement a approuvé un plan visant à utiliser la surveillance automatisée des comportements dans les espaces publics pendant les matchs, ignorant les objections d’une quarantaine de députés qui ont écrit une lettre ouverte condamnant la proposition. Le vote a suivi l’approbation préalable du Sénat français. (À travers Politique.)

Ce Jeux olympiques de 2024 se déroulera à Paris du 26 juillet au 11 août.

La loi sur l’intelligence artificielle de l’UE, un futur cadre basé sur les risques pour régir l’application de l’intelligence artificielle, comprend une interdiction de utilisation d’un système d’identification biométrique à distance « en temps réel » dans un espace accessible au public à des fins d’application de la loi – avec, dans le projet de proposition initial, des exceptions étaient autorisées pour les recherches les victimes potentielles de certains crimes (comme les enfants disparus) ; pour la prévention »menace spécifique, substantielle et imminente » pour la vie ou la sécurité physique ou une attaque terroriste ; ou pour identifier des auteur ou suspect dudit crime. Bien que les législateurs aient fait pression pour une interdiction plus complète.

Les critiques du plan français suggèrent qu’il va bien au-delà des exceptions d’application limitées autorisées dans le projet de proposition – s’appuyant sur une IA non éprouvée pour identifier quelque chose d’aussi obscur qu’un comportement suspect.

Commentant dans un communiqué, Patrick Breyer, député européen au Parlement européen avec le Parti pirate, a dénoncé l’utilisation de ce qu’il a appelé une technologie « fautive aux erreurs » et perturbatrice, déclarant : « La décision du Parlement français d’autoriser la surveillance comportementale automatisée dans les espaces publics rechercher un « comportement anormal » crée une nouvelle réalité de surveillance de masse sans précédent en Europe. J’espère que les tribunaux annulent cette loi sur la surveillance aveugle car elle viole nos droits fondamentaux.

« Une telle machine de suspicion signalerait beaucoup de mauvais citoyens, serait discriminatoire, éduquerait un comportement conformiste et serait complètement inutile pour attraper les criminels, comme l’ont prouvé la recherche et l’expérience. Petit à petit, comme en Chine, la diversité sociale est menacée et notre société ouverte est remplacée par une société de consommation conformiste.

La loi sur l’IA a été proposée par la Commission européenne il y a presque deux ans, mais toujours en cours de négociation par les agences de bloc – avec des discussions sur des dossiers compliqués par la division et les développements technologiques en cours, tels que l’émergence d’IA à usage général telles que GPT-4 OpenAI (l’IA à usage général n’étant pas explicitement incluse dans la proposition originale, soulignant à la fois à quel point le domaine de l’IA évolue rapidement et, par conséquent, un défi pour les régulateurs de créer un cadre efficace et pérenne pour réglementer les applications technologiques).

Cela signifie que l’ensemble et les détails des futures lois paneuropéennes doivent encore être finalisés. Et même dans le meilleur des cas – c’est-à-dire si les législateurs du bloc parviennent à un compromis rapide – il se peut qu’il ne soit toujours pas mis en œuvre à temps pour les Jeux olympiques de Paris. Néanmoins, la décision de la France semble pour le moins maladroite – suggérant que le bloc est sur la bonne voie pour une nouvelle ère de friction juridique entre les priorités de sécurité nationale et la protection des droits fondamentaux de l’UE.

La France est l’un des nombreux États membres de l’UE qui ont refusé à plusieurs reprises de se conformer aux règles de l’UE sur la conservation des données publiques et aveugles – contredisant qu’une telle activité est essentielle à la sécurité nationale – malgré le fait que le plus haut tribunal du bloc ait adopté un certain nombre de décisions répréhensibles. régime de collecte massive de données. Et une future vague de contestations judiciaires concernant l’utilisation abusive par l’État de puissants outils d’IA, pour une surveillance générale et aveugle, pourrait s’accélérer.

Pendant ce temps, les projets du gouvernement français d’envelopper les Jeux olympiques de Paris dans une surveillance alimentée par l’IA pourraient encore être contestés par la Cour constitutionnelle du pays. Il reste donc à voir si les participants aux Jeux olympiques d’été de 2024 seront confrontés à un jugement comportemental par des algorithmes.

La CNIL, l’autorité française de protection des données, s’est tournée vers l’intelligence artificielle ces derniers mois, créant un service dédié pour travailler sur la technologie dans Janvier, en préparation de la prochaine loi européenne sur l’intelligence artificielle. Pour qu’elle puisse s’intéresser de près aux projets du gouvernement. (Nous avons contacté la CNIL pour lui poser des questions sur son point de vue sur le plan et mettrons à jour ce rapport si nous recevons une réponse.)