La mairie de Suresnes a accepté que la start-up locale XXII analyse les moindres faits et gestes, sur la voie publique, des suresnois·es : durant un an et demi, l’entreprise sera libre d’utiliser les images de vidéosurveillance de Suresnes pour développer des algorithmes de « détection de comportements suspects » dont elle sera propriétaire.
Ce sont ainsi les données personnelles de toute une population qui sont offertes à une entreprise privée dans le seul et unique but d’enrichir les actionnaires d’une entreprise de surveillance de masse.
Les vies quotidiennes de dizaines de milliers de personnes offertes aux actionnaires de la technopolice
Pour XXII, cette opération est une aubaine. Comme le révèle la convention de partenariat, obtenue grâce à une demande CADA diffusée sur le forum technopolice, leur produit phare de surveillance urbaine, XXIISmartCity, semble en effet loin d’être finalisé. Décrit dans la convention comme étant encore à un stade « expérimental » , il est aussi indiqué que le pourcentage d’erreurs des algorithmes mis en place sera « dans la mesure du possible ». inférieur à 10%. En d’autres termes, XXII a un besoin urgent d’améliorer ses solutions avant de les commercialiser plus largement.
Or, comme l’expliquait le maire de Suresnes en conseil municipal, « le problème de nos entreprises françaises est qu’elles n’ont pas accès à des bases de données, des bases d’images, des bases d’événements suffisantes qui leur permettent d’exercer aussi rapidement leurs algorithmes ».
On comprend alors le besoin pressant de XXII de trouver une population cobaye qu’elle puisse observer sans restrictions, à toute heure du jour et de la nuit.Silhouettes humaines, déplacements, stationnement, objets , les algorithmes de XXII ont besoin de tout analyser pour mieux « apprendre ». Transformés en véritables rats de laboratoires, les Suresnois·es verront leur vie quotidienne disséquée afin d’apprendre aux machines ce qui distingue un bon d’un mauvais rat…
Quel réel bénéfice donc pour Suresnes à utiliser un produit expérimental dont le fonctionnement même n’a pas été testé ? En conseil municipal, le maire insista à plusieurs reprises sur le fait que l’opération contribuait au développement d’une entreprise locale, les locaux de XXII étant situés dans la ville, comme si cela pouvait justifier que ses actionnaires s’enrichissent en devenant propriétaires de la vie privée des autres habitants.
Les ressources publiques au service de la technopolice
Le cadeau offert par la mairie à XXII ne s’arrête pas là. Pour faciliter le travail de XXII, la convention prévoit trois choses : la présence, sans limite de temps, d’un opérateur de XXII au sein du CSU (centre de supervision urbain), l’engagement de la collectivité de faire remonter toute information nécessaire au projet ainsi que l’existence d’un comité technique, en partie composé de membres du CSU, qui devra se réunir « aussi souvent que nécessaire pour favoriser le bon déroulement du projet ».
Durant le temps de l’expérimentation, XXII bénéficiera ainsi de la collaboration active d’agents publics, transformés pour l’exercice en bêta-testeurs chargés de renseigner les bugs et erreurs présentes dans les produits de XXII. En parallèle, XXII pourra se servir du CSU de Suresnes comme d’un véritable laboratoire au service de ses équipes techniques.
Cette mise à disposition de ressources publiques au profit de XXII facilitera grandement une des principales difficultés rencontrées par les entreprises développant des algorithmes de vidéo-surveillance automatisée : la labellisation de leurs bases de données. Imaginons par exemple que XXII souhaite tester un algorithme de détection de sans-domicile-fixes. Outre la nécessité d’accéder à des flux vidéos, il faut aussi qu’un opérateur puisse valider si les alertes transmises par leur algorithme sont correctes de manière à les corriger si nécessaires. La convention permettra à XXII de réaliser cette opération soit grâce à la présence de son opérateur sur site, soit via les remontées d’informations des employés publics au sein du CSU.
Tout aussi dérangeant, la convention prévoit que XXII pourra utiliser le CSU de Suresnes comme d’un véritable show-room. Il est ainsi prévu que la start-up puisse inviter des clients à l’intérieur-même du CSU de la ville pour qu’elle puisse faire la promotion de ses solutions de surveillance vidéo.
Un flou absolu quant aux algorithmes déployés et sur l’avenir des données des Suresnois·es
Enfin, la convention ne permet pas de savoir avec précision quels seront les algorithmes déployés. S’il est évoqué la notion on ne peut plus vague de « détection de comportements suspects », il est plus loin fait référence à un algorithme de détection de « maraudage». Dans le même temps, il est indiqué à plusieurs reprises la possibilité pour XXII, en accord avec la mairie, d’installer de nouveaux algorithmes.
Il est par ailleurs mentionné à différents endroits que XXII sera propriétaire des bases de données utilisées pendant l’expérimentation. Il est tout particulièrement écrit que XXII est copropriétaire des « résultats » de l’expérience, ces derniers étant notamment définis comme les « connaissances, variables, […] base de données » obtenues pendant la durée de la convention. Ce flou entretient des doutes quant au transfert à XXII des séquences vidéos utilisées pour le développement de leur logiciel.
Fabriquer l’acceptabilité de la vidéosurveillance
La ville de Suresnes et l’entreprise XXII représentent l’archétype de ce contre quoi nous luttons : la collusion entre les politiques et les industriels de la sécurité, qui, pour donner le change politiquement, déploient des dispositifs liberticides et déshumanisants. Ce type d’expérimentation cherche à fabriquer « l’acceptabilité sociale » – comme ils l’appellent – de la vidéosurveillance automatisée.
XXII a beau tenter de se dédouaner de toute velléité sécuritaire, la surveillance qu’elle impose à ses habitant·es est bien réelle. Encore une fois, il s’agit de technologies intrusives, imposées sans débat, à toute une population. Nous refusons une société dans laquelle les habitants et habitantes des villes voient leur vie épiée et exploitée comme une vulgaire matière première utilisable pour le développement de technologies malsaines. Où les êtres humains ne sont finalement plus considérés que comme une masse de données à monétariser ou des corps à contrôler.
Retrouvons-nous sur le forum Technopolice pour lutter ensemble contre le déploiement de ces dispositifs.