Dans le centre historique de São Paulo, un tableau électronique affiche en temps réel le nombre de personnes arrêtées à l'aide de Smart Sampa. Derrière ce compteur, 40 000 caméras filment 24 heures sur 24 la plus grande mégalopole d'Amérique latine. Le système, lancé fin 2024 par la mairie de droite, croise en temps réel les images avec les données du système judiciaire brésilien grâce à la reconnaissance faciale par intelligence artificielle.
Le coût est de 1,6 million d'euros par mois. Le bilan affiché : près de 4 000 personnes arrêtées en flagrant délit et 3 000 fugitifs retrouvés. « Aujourd'hui, je ne peux pas imaginer São Paulo sans Smart Sampa », affirme Orlando Morando, secrétaire à la sécurité urbaine de cette agglomération de 12 millions d'habitants. Les vols ont chuté de 15 % l'an dernier.
8 % d'erreurs : quand l'IA arrête des innocents
Le système connaît de sérieux ratés. Selon des données officielles analysées par l'AFP, plus de 8 % des personnes interpellées comme fugitives lors de la première année ont dû être libérées après avoir été ciblées par erreur. Au moins 59 personnes ont été victimes de confusions d'identité.
En décembre, un retraité de 80 ans a passé plusieurs heures au commissariat car le système l'avait confondu avec un violeur. Au moins 141 personnes ont été interpellées sur la base de mandats d'arrêt périmés. Les autorités rejettent la faute sur le pouvoir judiciaire, qui n'aurait pas actualisé ses données.
Autre problème : près de la moitié des fugitifs arrêtés figurent dans une catégorie « autres » délits. La plupart sont soupçonnés de défaut de paiement de pension alimentaire, « ce qui ne contribue pas vraiment à renforcer la sécurité publique », selon un rapport du réseau d'avocats Liberdade.
Le spectre du biais racial algorithmique
Les données officielles ne précisent pas l'identité raciale de plus de la moitié des personnes emprisonnées après identification par Smart Sampa. Pour Amarilis Costa, directrice du réseau Liberdade, cette « lacune » ne permet pas d'identifier un éventuel « racisme algorithmique » dans un pays où la majorité de la population est noire ou métisse.
Selon des études menées dans plusieurs pays, la reconnaissance faciale par IA a tendance à commettre plus d'erreurs avec des personnes noires. « Smart Sampa n'a pas de préjugé, on n'arrête pas les gens selon leur couleur de peau », rétorque Orlando Morando. La plupart des arrestations ont eu lieu dans des quartiers périphériques, visant de nombreuses personnes originaires des régions les plus pauvres du pays.
« Smart Sampa se présente comme une solution face au crime, mais il est utilisé pour contrôler les citoyens », fustige Amarilis Costa. Le système, alimenté par des caméras de rue, de bâtiments publics comme les hôpitaux et de certains lieux privés, rappelle à une habitante « le livre 1984 » de George Orwell. « J'adore, j'approuve à 100 % », ajoute-t-elle pourtant — résumant l'ambivalence d'une société tiraillée entre sécurité et libertés.
