Comment la reconnaissance faciale s'empare d'une ville française – POLITICO

NICE, France – Bienvenue dans le laboratoire français de reconnaissance faciale.

Avec ses plages de galets et sa promenade emblématique de la Promenade des Anglais, la ville azur de la Riviera est plus connue comme une destination de vacances prisée des touristes et des retraités français fortunés.

Mais la ville se taille une autre niche sous la direction du maire de droite, Christian Estrosi – en tant que terrain d'essai pour des outils de surveillance de haute technologie alarmant les activistes des droits numériques, testant les limites du droit européen en matière de protection de la vie privée et mettant les parents en danger.

Le déploiement de plus de 2 600 caméras de vidéosurveillance n’était qu’un premier pas. En février, Nice est devenue la première ville française à tester des outils de reconnaissance faciale dans ses rues grâce à des caméras qui scannaient le visage de milliers d'adultes assistant à un carnaval, comparant leurs ressemblances à une base de données de visages dans le cadre d'une expérience à grande échelle.

L’autorité régionale qui gère les écoles autour de Nice attend l’avis des régulateurs pour une autre première: déployer la reconnaissance faciale aux entrées de deux lycées régionaux, une expérience qui a provoqué des cris de protestations de la part des parents, des syndicats d’enseignants et des syndicats. activistes de la vie privée.

Plus tôt cette année, les autorités européennes de protection des données ont averti que la reconnaissance faciale impliquait des "risques accrus" pour les libertés et droits fondamentaux.

Alors que le groupe de surveillance de la confidentialité de la CNIL examine la question (les caméras sont suspendues dans l’attente de son avis), la surveillance exercée par Nice sous Estrosi alimente un débat plus vaste sur l’utilisation croissante de la reconnaissance faciale en public et ses effets sur les libertés civiles.

Défendue par les faucons de la sécurité comme un outil de lutte contre la criminalité, la technologie a tout de même été interdite à San Francisco, un féru de technologie, alors qu'au début de ce mois, le Sénat californien avait interdit l'utilisation de la technologie biométrique pour l'application de la loi, craignant des violations des droits humains et des erreurs d'identification de femmes. et des minorités.

À l’autre extrême, le déploiement par la Chine de technologies de reconnaissance faciale ouvre une fenêtre sur un monde de surveillance sans limites. Lors des manifestations en faveur de la démocratie à Hong Kong au début de cette année, des manifestants ont rasé des tours équipées de caméras à balayage facial pour éviter toute détection par les autorités. Dans le même temps, les minorités musulmanes ouïgoures de l'arrière-pays chinois font l'objet d'une surveillance biométrique tellement constante que le New York Times a qualifié leur région de "prison technologique".

Comme le montre l'exemple de Nice, l'Europe n'a pas encore pris sa décision.

Quadrature du Net et d'autres organisations ont lancé une campagne contre les technologies de surveillance à la mi-septembre à Nice | Photo de Laura Kayali

L’année dernière, le Continent a adopté les règles de confidentialité les plus strictes au monde, connues sous le nom de règlement général sur la protection des données (GDPR), mais les forces de sécurité disposent de beaucoup de marge de manœuvre pour utiliser la reconnaissance faciale. Des "expériences" avec l'outil ont récemment vu le jour en France, au Danemark, en Allemagne et au Royaume-Uni, où un tribunal en août a rejeté le premier recours juridique européen contre l'utilisation de la reconnaissance faciale par la police.

Les chiens de garde de la vie privée accordent une attention particulière. Plus tôt cette année, les autorités européennes de protection des données ont averti que la reconnaissance faciale impliquait des "risques accrus" pour les libertés et droits fondamentaux. Mais en l’absence de règles plus strictes pour les autorités, des dirigeants à la parole dure, comme Estrosi, à Nice, vont forcément continuer.

"Nice est l'une de ces villes où les responsables politiques ont construit leur carrière en incarnant la sécurité, en développant la police de ville et la surveillance vidéo", a déclaré Laurent Mucchielli, sociologue et directeur de la recherche au CNRS, dont les les travaux portent sur la criminalité et la sécurité urbaine.

"La reconnaissance faciale est le dernier gadget technologique associé à la vidéosurveillance."

"La ville la plus surveillée de France"

L'histoire d'amour entre Nice et la surveillance de haute technologie remonte à près d'une décennie – bien avant l'attaque terroriste de 2016 qui a tué 87 personnes, dont l'attaquant.

En 2010, Estrosi, ministre dirigé par Nicolas Sarkozy, a été le premier maire à créer un système de vidéosurveillance sophistiqué doté d'un "centre de surveillance urbaine" dans une ville française. Défenseur de longue date de la reconnaissance faciale, il a demandé sans succès l'autorisation du gouvernement en 2016 pour déployer de telles technologies lors du championnat européen de football, avant que le RGPD n'existe.

“La technologie est d'une aide cruciale pour sécuriser la vie quotidienne des citoyens” – Un responsable de la mairie de Nice

Aujourd’hui, la cinquième ville du pays en termes de population est de facto la «ville la plus surveillée de France», avec plus de 2 600 caméras installées dans la rue – une pour 128 habitants et une augmentation de 1 111% depuis 2007.

"La technologie est extrêmement utile pour sécuriser la vie quotidienne des citoyens", a déclaré un responsable de la mairie de Nice.

«La sécurité ne consiste pas seulement en la protection des biens des personnes. Il s'étend à tout un panel de dangers "et peut aider les policiers à retrouver" un enfant perdu, une personne atteinte de la maladie d'Alzheimer ou une personne recherchée ", a ajouté le responsable.

Lors du carnaval de février, Nice s’est associée à la société monégasque de cybersécurité Confidentia, qui a fourni gratuitement son logiciel "Any Vision" pour tester l’efficacité des algorithmes. Confidentia n'a pas répondu aux demandes de commentaires.

Dans le cadre du GDPR, Nice n’avait pas besoin d’une autorisation préalable de la CNIL, bien que l’autorité de protection des données ait demandé une évaluation du test une fois celui-ci terminé.

Au cours du procès, l’une des entrées du carnaval était équipée de caméras de reconnaissance faciale qui analysaient en temps réel les visages des volontaires et les associaient à une base de données. Plus de 5 000 personnes ont accepté de participer. Les mineurs n'étaient pas autorisés à participer.

Lycée des Eucalyptus à Nice, où la reconnaissance faciale doit être testée | Photo de Laura Kayali

Selon l’évaluation de la ville, obtenue par le journal français Le Monde, deux scénarios ont été testés: un contrôle cas par cas pour déterminer si les personnes étaient autorisées à accéder au carnaval et un contrôle plus général pour détecter la présence de volontaires spécifiques dans la foule.

L'expérience a été jugée un succès par les autorités de la ville. Mais la CNIL a demandé davantage d’informations pour pouvoir évaluer correctement le test, telles que les taux de faux positifs et de faux négatifs.

Estrosi a refusé une demande d'interview. La ville de Nice a refusé de commenter l'expérience et a déclaré que le maire fournirait une évaluation complète dans les prochaines semaines. Estrosi espère être réélu en 2020.

Pour la Quadrature du Net, organisation à but non lucratif pour les droits numériques, la campagne de surveillance menée par Estrosi remet les clés de la ville aux entreprises technologiques, au détriment des droits fondamentaux des citoyens.

"Au nom d'une ville supposée plus intelligente et plus sûre, les entreprises privées vendent leurs élus" Ville sûre ", avec une surveillance accrue de l'espace urbain, à des élus au manque d'imagination", a déclaré Martin Drago, expert juridique de l'organisation.

Nice est un "emblème" de ce phénomène, a-t-il ajouté.

Outcry dans les lycées

Tester la reconnaissance faciale dans les lycées s'est révélé être une pilule difficile à avaler pour les habitants de Nice.

"Nous sommes convaincus que la sécurité de nos enfants n’est pas l’objectif principal, mais des intérêts commerciaux et politiques" – Laetitia Siccardi, représentante de la fédération des conseils des parents d’élèves

En décembre 2018, la région Sud, qui a autorité sur les lycées, a décidé d'autoriser un test de reconnaissance faciale dans deux lycées, l'un à Nice et l'autre à Marseille. L'instance régionale est présidée par Renaud Muselier, ancien membre du Parlement européen des Républicains, le même parti politique que le maire de Nice, Estrosi. Muselier n'a pas répondu aux demandes de commentaires.

Le projet prévoyait l'installation de portails biométriques devant le lycée des Eucalyptus à Nice et le lycée Ampère à Marseille. Les étudiants qui acceptent de participer à l'expérience rempliront des formulaires de consentement et passeront par le portail biométrique pour entrer dans l'école.

Des ONG, des syndicats d’enseignants et des parents mènent une campagne contre le déploiement des portails biométriques. En février, plusieurs organisations ont porté plainte devant un tribunal de Marseille pour annuler la décision de la région. L'affaire est en cours.

«Nous sommes convaincus que la sécurité de nos enfants n’est pas l’objectif principal, mais des intérêts commerciaux et politiques», a déclaré Laetitia Siccardi, qui représente la fédération des conseils des parents d’élèves.

L’expérimentation devait commencer en septembre, mais n’a pas encore commencé.

«Le projet est en attente en attendant la CNIL [privacy authority]», A déclaré Philippe Albert, directeur du lycée Les Eucalyptus à Nice.

"En France, il n'y a pas de débat sur ces technologies et sur l'impact qu'elles peuvent avoir sur nos droits et libertés" – Martin Drago, expert juridique à La Quadrature du Net

Selon la décision de la région, le test de reconnaissance faciale – qui fait partie d'un paquet de 45 millions d'euros visant à rendre les lycées plus sûres – vise à simplifier l'identification des étudiants, à lutter contre le vol d'identité et à détecter les intrus. La technologie est fournie gratuitement par la société de technologie américaine Cisco, qui a signé un protocole d’entente avec la région.

Gaëtan Feige, responsable de l'innovation chez Cisco France, a déclaré que le système envisagé protégeait les données biométriques des étudiants.

«Les profils biométriques de chaque élève qui aura donné son consentement seront conservés temporairement dans une base de données à l'intérieur du lycée», a-t-il déclaré. Les données personnelles des étudiants, qui ne seront pas transférées dans le cloud et seront cryptées individuellement, seront effacées lorsqu’ils décident de ne plus participer au test.

La CNIL donnera son avis sur cette expérience vers la mi-octobre, a déclaré Thomas Dautieu, directeur de la conformité de l’autorité de protection des données. "L’enjeu est de déterminer si l’utilisation de la reconnaissance faciale dans les écoles secondaires est justifiée."

Si l'expérience obtient le feu vert, ce sera une première en France.

En août, l’autorité suédoise chargée de la protection des données a infligé une amende à une école secondaire au sens du RGPD pour avoir utilisé la reconnaissance faciale, affirmant que le consentement des étudiants ne pouvait être donné librement, car l’administration de l’école avait une autorité morale sur eux.

Cadre juridique «dépassé»

À Bruxelles, la Commission européenne a proposé cet été un futur instrument juridique européen sur les biens et services reposant sur l'intelligence artificielle, y compris la reconnaissance faciale.

Mais au niveau national, Drago de La Quadrature du Net dénonce l'absence de débat public sur la reconnaissance faciale.

"En France, il n'y a pas de débat sur ces technologies et sur l'impact qu'elles peuvent avoir sur nos droits et libertés", a-t-il déclaré. "Le RGPD est trop vaste, trop vague et ne suffit pas", a-t-il ajouté.

Alors que le GDPR demande l'utilisation de la reconnaissance faciale dans les écoles secondaires, le déploiement de cette technologie dans le contexte d'infractions pénales, par exemple pour retrouver des personnes recherchées par la police, nécessite un décret du Conseil d'État fondé sur un avis de la CNIL. .

«Le cadre juridique de la reconnaissance faciale dans les espaces publics est un peu dépassé», a concédé Dautieu de la CNIL. “[Facial recognition] est un marché en croissance et les entreprises fournissent leurs services, mais il est grand temps que les législateurs se penchent sur la question », a-t-il déclaré.

Contrairement à ce qui se passe en Californie, le Parlement français n’a jusqu’à présent guère intérêt à interdire les outils de reconnaissance faciale. Au lieu de cela, les députés ont réclamé un cadre législatif pour l'expérimentation de telles technologies.

Pour Mucchielli du CNRS, un cadre juridique est "fondamental".

"Le développement de technologies de contrôle tire profit du poids d'un mythe technologique dans l'esprit de l'Occident: cette technologie est nécessairement synonyme de progrès et est nécessairement plus efficace que l'homme", a-t-il déclaré.

Cet article est extrait de POLITICO Pro: le service de police premium de POLITICO. Pour découvrir pourquoi des milliers de professionnels font chaque jour confiance à Pro, envoyez un courriel à pro@politico.eu pour un essai gratuit.

Histoires connexes sur ces sujets:

€
€