Quels sont les principaux risques perçus par la Cnil concernant la protection des données personnelles lors des Jeux olympiques 2024 ?Marie Duboys Fresney : Le projet de loi sur les Jeux olympiques prévoit la possibilité de déployer à titre expérimental des caméras « augmentées », équipées de logiciels d'Intelligence artificielle et donc, en capacité de détecter certains types d'évènements sur les images issues de ces caméras : mouvements de foule, objets abandonnés, gens qui marchent à contre-sens… La Cnil a donc, en décembre 2022, rendu un avis sur ce projet de loi qui a connu certaines évolutions depuis. La Cnil a pointé les risques impliqués par le déploiement de ces dispositifs amenant une analyse automatisée des personnes dans l’espace public avec une collecte potentiellement importante de données personnelles.Quand ChatGPT rédige un amendement sur une loi pour les JO 2024Comment la Cnil collabore-t-elle avec les organisateurs des J.O. 2024 pour garantir la protection des données personnelles des participants et des spectateurs ?Marie Duboys Fresney : La Cnil a en premier lieu tenu sa mission de conseil auprès du gouvernement, ce qui s'est traduit par notre avis sur le projet de loi concernant l’expérimentation de caméras augmentées, il en sera de même pour le décret faisant suite à la promulgation de la loi, vraisemblablement fin avril. La Cnil aura également un rôle d'accompagnement des fournisseurs de dispositifs algorithmiques, afin de veiller au respect de cette loi dans la pratique. Et nous serons en mesure de contrôler le déploiement des caméras augmentées.Marie Duboy Fresney, juriste de la Cnil. © CnilQuelles sont les mesures de protection des données individuelles qui seront mises en place lors des Jeux olympiques 2024 ?

Marie Duboys Fresney : Concernant le déploiement expérimental de caméras augmentées, la Cnil a relevé un certain nombre de garanties qui ont été prévues dans le texte de loi. L'idée est de garantir, dans un cadre expérimental, ce qui était très important à nos yeuxyeux, la sécurité et l'ordre public de certains événements sur une période limitée -- pour l'instant, au plus tard jusqu'à décembre 2024 -- mais aussi dans un espace limité, seulement certaines manifestations sportives, récréatives ou culturelles et leurs abords. De même, il n'y aura pas recours à la reconnaissance faciale. Et pas de connexion avec d'autres fichiers de données personnelles. Par ailleurs, les dispositifs de caméras augmentées seront des aides à la décision : il y aura toujours un humain en charge de réagir en fonction de l'alerte donnée par le dispositif.

Les données collectées pendant les Jeux olympiques 2024 seront-elles stockées ?

Marie Duboys Fresney : Une fois l'événement achevé, les images traitées par les dispositifs algorithmiques n'ont pas vocation à être conservées.

La Cnil prévoit-elle de sensibiliser les spectateurs et les participants aux risques liés à la protection des données personnelles ?

Marie Duboys Fresney : Le texte de loi prévoit la mise en place d'une information générale des personnes lors du déploiement de ces dispositifs de caméras augmentées.

Lors de grands événements, la tentation devient toujours plus forte d'installer des outils de surveillance automatisée. © Vladimir Wrangel, Adobe Stock

La France mise sur des caméras intelligentes pour la sécurité des Jeux olympiques de Paris

Le Sénat étudie aujourd'hui le projet de loi relatif aux Jeux olympiques de Paris de 2024, avec la surveillance du public par des caméras intelligentes. Elles serviraient à détecter automatiquement les troubles lors des concentrations de personnes. Quels sont les enjeux de cette mesure ? 

Article de Louis Neveu, publié le 24 janvier 2023

On se souvient des manifestations qui avaient eu lieu il y a maintenant plus de deux ans avant l'examen de la loi « sécurité globale ». Après avoir été raboté par le Conseil d'État, celui-ci vient de valider le texte sans grandes modifications, ni contestation. Le volet numérique inquiétait déjà fortement, mais ce n'est finalement pas grand-chose en comparaison du nouveau projet de loi proposé par le gouvernement pour encadrer les Jeux olympiques de Paris en 2024.

Amendé mercredi dernier par le Sénat pour un examen en séance publique devant la même assemblée ce mardi 24 janvier, un article parmi les autres concentre les appréhensions. L’article 7 autorise l'utilisation de systèmes de vidéosurveillance automatiques qui exploiteront une Intelligence artificielle pour détecter les « situations dangereuses pour la sécurité des personnes, comme les mouvements de foule ». Les dispositifs en question ne sont pas listés, mais, en plus des caméras de vidéosurveillance fixes, l'usage de drones n'est pas exclu. Ces aéronefsaéronefs sont désormais exploitables par les forces de l'ordre depuis le 20 janvier.

Lorsque l'on mêle l'utilisation de l'IA pour de la reconnaissance automatique via la vidéosurveillance, on imagine forcément que l'usage de la reconnaissance faciale automatisée peut se trouver en embuscade. Le gouvernement ne l'explicite pas, mais donner carte blanche à une l'IA pour surveiller permet d'en poser les bases. C'est en tout cas ce que redoute l'association la Quadrature du Net.

Même la Cnil veille au grain. Interrogée par France Info ce matin, sa présidente Marie-Laure Denis expliquait que l'usage de ces IA ne sera pas « open-barbar » et sera réservé aux seules « enceintes sportives, aux abords des transports ». L'organisme va suivre de près la confection des algorithmes et évaluer son apprentissage. La présidente soulignait qu'il ne faut pas que le gouvernent en profite pour « introduire de la reconnaissance faciale ». Se pose aussi la duréedurée de la conservation des données. Sur ce point, Marie-Laure Denis expliquait que « la Cnil veillera à ce que ces données soient supprimées lorsqu'elles doivent l'être ».

La présidente de la Cnil appelle le gouvernement à ne pas utiliser la reconnaissance faciale. Signe d’une intention ? © Twitter, France Info

Du temporaire durable

Et puis, il y a l'encadrement des algorithmes. Futura expliquait hier qu'une IA entrainée à détecter des personnes pouvait être bernée lorsque l'on se déplace caché dans un carton. Une IA ne verra-t-elle pas une infraction ou un mouvementmouvement de foule là où il n'y en a pas ? Pour éviter les dérapages, le texte prévoit que le dispositif de surveillance soit contrôlé par des humains qui peuvent l'interrompre à tout moment.

Outre les aspects techniques, il y a également des craintes sur le fait que cette loi pourrait devenir permanente et ne pas se limiter aux seuls JO de 2024. D'abord, le projet de loi propose d'expérimenter le procédé lors de grandes manifestations sportives, dès l'entrée en vigueur de la loi et ce, jusqu'au 30 juin 2025. En argumentant avec le terme forcément anxiogène du « risque terrorisme », les dispositifs pourraient donc être exploités au-delà du cadre des Jeux olympiques 2024.

Ensuite, il faut noter que cela va même au-delà du sport, puisque la loi s'appliquerait également aux manifestations récréatives ou culturelles. En fin de compte, ces dispositions montrent bien que l'intention de ce projet est à vocation permanente. C'est en tout cas l'opinion du Conseil d'État. L'institution expliquait dernièrement dans un avis que le texte est conçu pour pouvoir s'appliquer en dehors de la période des Jeux olympiques. En guise de garde-fougarde-fou, la loi explique que l'expérimentation sera systématiquement soumise à autorisation de la préfecture. Reste à savoir ce que va décider le Sénat lors de sa séance publique aujourd'hui même.