Malgré le recours d’une soixantaine de députés, le Conseil Constitutionnel français a autorisé l’application, sous contrôle, expérimentale et temporairement limitée de l’Intelligence Artificielle (IA) et de la reconnaissance faciale en matière de sécurité pour les Jeux Olympiques de Paris.

Par Cadfael

Des outils potentiellement dangereux ?

La vidéosurveillance algorithmique sera testée pendant les JO-2024, mais les autorités françaises assurent qu’aucun des logiciels utilisés ne permettra le recours à la reconnaissance faciale, pourtant déjà employée en France dans certains cas et sous conditions. Aux systèmes de caméras s’ajouteront des scanners corporels et des drones, depuis longtemps en usage dans d’autres pays mais dont la loi française, particulièrement restrictive, rendrait l’utilisation compliquée. Selon Amnesty International, le système était testé depuis un certain temps aux gares du Nord et de Lyon à Paris, et à la gare Saint-Charles de Marseille. Comme vient de le publier l’ONG anglaise « Privacy International », vingt-cinq des plus importants stades de football au monde utilisent cette fameuse reconnaissance faciale tellement honnie et débattue. Dans la liste, on trouve le stade Saint-Symphorien à Metz. L’ONG a soumis les résultats de ses recherches au rapporteur spécial de l’ONU sur les droits culturels. Un rapport en cours de préparation sera soumis à l’Assemblée Générale en octobre.

Les très discrètes recherches « élargies » de Bruxelles

L’ONG germano-suisse Algorithm Watch (AW) et la chaîne publique allemande ZDF viennent de pointer du doigt un ensemble de projets de recherche que l’Union Européenne développe dans la plus grande discrétion. Ils concernent la surveillance des frontières (et probablement plus si affinités). « Les agences de police et de sécurité aux frontières préfèrent éviter un débat public concernant l’utilisation de l’IA dans le contrôle et la surveillance des migrants », selon AW. Le concept au cœur de la démarche de l’UE serait de considérer les migrants comme une menace. À partir de là se construit « Frontières Intelligentes », visant à durcir les systèmes de contrôle aux frontières en les « automatisant », avec un potentiel de « voir » au-delà de celles-ci. Structuré via des programmes comme « Horizon 2020 », actif de 2014 à 2020 et puisant dans un budget de 80 milliards, et actuellement « Horizon Europe », disposant d’une enveloppe de l’ordre de 96 milliards.

Ni vu ni connu

Les technologies sophistiquées de surveillance promues par l’UE ont des potentiels d’abus qui peuvent s’avérer très problématiques en matière de démocratie libérale. Il en va ainsi des systèmes de drones terrestres, aéronautiques et maritimes de « Roborder », capables de surveiller les frontières, un projet dual militaire et civil. Le programme « Meticos », lancé en 2020, analysait les capacités d’acceptation par l’électorat européen de technologies destinées à reconnaître des « comportements anormaux » dans des flux humains. « Odysseus » vise le contrôle à distance des migrants grâce à des filtrages et analyses avec des scanners ou des drones permettant la validation à distance d’individus, de véhicules, de bagages ou de conteneurs. Son but est de prédire les flux de migrants et d’y extraire des attitudes et des potentiels inamicaux. Le projet « HummingBird » de l’université flamande et catholique de Louvain utilise à cette fin le big data incluant l’analyse de données CDR téléphoniques et de communication via web, satellites, géolocalisées, privées ou non. On y trouve également le développement de détecteurs de mensonges sophistiqués analysant les micro-expressions du visage ou du corps. Le volet baptisé « Nestor » cherche le contrôle total des frontières terrestres, maritimes et aériennes via des robots. Comme l’y autorise la loi, AW s’est fait communiquer les documents de Bruxelles. Parmi des dizaines de pages noircies, l’ONG a pu déchiffrer des bribes d’avertissement suggérant que les technologies en question pourraient également servir en matière d’antiterrorisme, de limitations des libertés et des droits individuels ou de stigmatisation de groupes culturels ou religieux.

Le potentiel d’un état policier

L’histoire récente de Frontex, l’agence européenne de contrôle des frontières, pousse à la circonspection : démissionné il y a deux ans suite à une série de scandales portant notamment sur le respect des droits de l’homme, l’ancien directeur, un énarque français, se retrouve sur les listes de l’extrême droite aux européennes. Le risque est pourtant bien réel que cette force devienne une sorte de garde prétorienne agissant hors de tout contrôle sérieux. À quoi serviraient les outils développés par exemple en cas de sécession d’une province de l’empire européen comme la Catalogne ? L’Europe doit éviter la pente dangereuse des modèles chinois ou nord-coréen.