Les IA de la «police prédictive» s’installent en zones urbaines

Un monde de tech

Les IA spécialisées dans le domaine particulier de la « police prédictive », sont de plus en plus déployées dans différentes zones urbaines en France et en Europe.

Prédire l'avenir a toujours été la marotte des mathématiciens et des auteurs de livres de science-fiction. Mais « pouvons-nous prédire les crimes sans engendrer fatalement un état policier et totalitaire ? » s’inquiétait déjà l'écrivain de SF Philip K. Dick en 1956 dans une nouvelle intitulée Minority Report. Une œuvre qui a connu un succès retentissant en étant portée à l’écran en 2002 par le réalisateur Steven Spielberg.

Mais la réalité a depuis longtemps dépassé la fiction, avec le développement des programmes d’intelligence artificielle. La police de Baltimore, de Philadelphie ou encore les autorités de Washington DC aux États-Unis, utilisent depuis des années ces logiciels pour prévenir les meurtres pouvant être commis par des adolescents récidivistes. Le même système existe au Royaume-Uni, mais concernant cette fois les adultes.

L’argumentaire sécuritaire séduit les communes de France

C’est le cas par exemple du logiciel Smart Police édité par la société nantaise Edicia permettant « l’anticipation et la visualisation des événements de délinquance » indique son site web. Le programme piloté par IA est censé deviner les infractions perpétrées sur la voie publique en indiquant « où » et « quand » elles se produiront. Concrètement, deux sources de données serviraient à nourrir l’algorithme comme la remontée des informations de terrain avec les « alertes » émises par les agents en patrouille.

Ces informations sont complétées avec des données « externes », comme des indicateurs socio-économiques sur la population et la configuration de l’urbanisme dans une zone géographique localisée ou encore l’analyse des messages en provenance des réseaux sociaux. Plusieurs collectivités en France ont acheté le système Smart Police, comme la métropole de Nice, la communauté d’agglomération Roissy Pays de France ou encore la ville d’Étampes, qui a renouvelé son contrat avec la société nantaise en décembre dernier.

Le fonctionnement opaque de l’IA d’Edicia

Et c’est bien là le problème. Tous les systèmes de prédiction de la délinquance actuellement vendus dans le monde sont de véritables « boites noires ». Impossible de juger ni de leur efficacité ni s’ils représentent un quelconque danger pour les libertés individuelles. Un rapport récent de l’Agence européenne des droits fondamentaux révèle que l’un des risques liés aux algorithmes de police prédictive est qu’ils renforceraient le racisme et la discrimination au sein des forces de l’ordre.

Le Parlement européen qui s’était prononcé dans un premier temps pour leur classement dans la catégorie des IA dites « inacceptables », a finalement assoupli ses mesures. L’Europe autorise dorénavant le recours aux logiciels de type Smart Police, bien que ces programmes IA soient basés sur des indicateurs géographiques intégrant des relevés socio-économiques des populations.