Meijer, A., Lorenz, L., Wessels, M. (2021). Algorithmization of Bureaucratic Organizations: Using a Practice Lens to Study How Context Shapes Predictive Policing Systems. Public Administration Review.
Le débat scientifique sur l’utilisation des algorithmes dans le secteur public est principalement dominé par des enjeux technologiques alors que des réflexions sur les modèles organisationnels sont nécessaires. L’utilisation des algorithmes dans le secteur public est perçue comme étant porteuse de changements radicaux. Plusieurs domaines publics pourraient bénéficier de cette technologie comme la sécurité sociale, l’éducation, la protection de l’enfance et les services de police. Toutefois, la technologie algorithmique présente également des risques. Pour ces raisons, le processus par lequel une organisation réorganise ses routines de travail autour de l’utilisation d’algorithmes doit être étudiée. Cette publication vise à approfondir les connaissances sur l’implantation de l’IA dans des organisations publiques par une analyse empirique comparative entre deux services de police ayant implanté un système de police prédictive.
Définition
Les algorithmes convertissent des données en informations utiles pour la prise de décision. Ils traitent les données automatiquement grâce à leur capacité d’apprentissage automatique.
L’algorithmisation inclut six composantes : 1) les technologies, 2) l’expertise, 3) les relations d’information, 4) la structure organisationnelle, 5) la structure politique ainsi que 6) le suivi et l’évaluation.
Les chercheurs utilisent la théorie de l’application pratique des technologies d’Orlikowski pour étudier un usage spécifique des algorithmes dans une organisation publique. Le premier élément de la théorie utilisé par les chercheurs est les possibilités (c’est-à-dire comment le système peut être utilisé). Le deuxième élément regroupe les normes et valeurs (c’est-à-dire comment la technologie devrait être utilisée). Le troisième élément est la signification (c’est-à-dire les connaissances et les présupposés des individus à propos de la technologie).
Résultats pour la première organisation publique :
- Le système de police prédictive utilisé par la police berlinoise (KrimPro) est un système pour analyser temporellement et géographiquement les tendances de criminalité. Les analyses permettent d’identifier les zones de la ville où il y a un haut risque de cambriolages.
- KrimPro divise le territoire de Berlin en 4 500 zones de 400 mètres par 400 mètres. Pour chaque zone, un score de risque est estimé quotidiennement. Les zones identifiées comme à « haut risque » demeurent identifiées comme telles pendant trois jours.
- Le service du personnel distribue les cartes avec les zones codées par couleur au format PDF aux services locaux dans les quartiers de Berlin.
- L’utilisation de KrimPro a été facilitée par l’acceptation que le système est une source valide de renseignements.
- La norme qui veut que l’utilisation de KrimPro permette un travail policier plus efficace est contestée. Le système fondé sur les probabilités diffère grandement du travail traditionnel des patrouilleurs.
- Les employés dans les départements de police locaux perçoivent KrimPro comme une boîte noire. Ils n’ont pas eu de formation quant à l’utilisation du système de police prédictive. Par ailleurs, les répondants ont indiqué ressentir une forte pression pour suivre les conseils de KrimPro.
Résultats pour la seconde organisation publique
- La police d’Amsterdam utilise le Crime Anticipation System (CAS) qui fournit des prévisions sur les zones où le risque de criminalité est statistiquement plus élevé.
- Les zones à haut risque sont indiquées sur une carte de chaleur : jaune pour une légère augmentation des probabilités, orange pour une augmentation modérée et rouge pour une augmentation élevée des probabilités.
- Le CAS est modifiable. Les types de crimes spécifiques peuvent être sélectionnés pour être affichés sur la carte.
- Les possibilités du CAS peuvent être appliquées aux six composantes de l’algorithmisation :
- Technologie : le CAS est un système d’aide à la décision.
- Expertise : le CAS soutient les spécialistes du renseignement qui ont développé une expertise en travaillant avec ce système.
- Relations d’informations : le CAS utilise des données policières et des données socioéconomiques.
- Structure organisationnelle : le CAS est intégré aux structures organisationnelles préexistantes.
- Structure politique : l’organisation a développé une politique qui indique comment utiliser le CAS.
- Surveillance et évaluation : l’organisation surveille trois aspects du CAS, soit la surveillance technique, la surveillance de l’interface et la surveillance de l’utilisation.
- Le système est invisible pour la majorité de l’organisation. En effet, les spécialistes du renseignement utilisent le CAS pour leurs rapports consultatifs hebdomadaires et breffages quotidiens.
- L’organisation souligne qu’il est important que les résultats du CAS soient enrichis par les connaissances des spécialistes du renseignement. Il y a une interaction intense entre le CAS, les expériences et connaissances des spécialistes du renseignement et la valeur perçue des rapports consultatifs et des séances d’information aux agents de la rue.
- La vaste majorité des répondants perçoivent le CAS comme un système qui peut les aider dans leur travail. Une minorité de spécialistes du renseignement ne perçoivent aucune valeur ajoutée au CAS.
Résultats de la comparaison
- Les deux systèmes de police prédictive sont hautement similaires : les deux départements de police ont développé un système qui prédit les zones où les probabilités qu’un crime survienne sont statistiquement plus élevées. Les deux systèmes combinent des données publiques à des données policières.
- Les normes pour l’utilisation du système sont assez différentes. L’espace pour s’éloigner des résultats du système à Berlin est beaucoup plus limité que celui à Amsterdam.
- À Amsterdam et à Berlin, l’usage du système est contesté.
- Les schémas d’interprétation des deux départements de police ont des différences. La police berlinoise est dans une logique de surveillance pour assurer la conformité. La police d’Amsterdam insiste pour que le système soit utilisé, sans qu’il y ait une logique de surveillance.
- Des systèmes technologiques similaires ont évolué dans des modèles organisationnels différents. À Amsterdam, le CAS est un « collègue algorithmique », alors qu’à Berlin, il s’agit d’une « cage algorithmique ».
- La cage algorithmique signifie le renforcement des formes de contrôle existantes par le système algorithmique.
- Le collègue algorithmique renforce le jugement professionnel.
- L’algorithmisation n’est pas déterministe ; les algorithmes n’imposent pas un modèle d’organisation publique.
- Deux modèles d’organisations publiques liés aux algorithmes peuvent être identifiés : la cage algorithmique et le collègue algorithmique.
- En matière de légitimité policière, la publication présente deux revendications de légitimité liées aux algorithmes :
- Pour la police de Berlin, une organisation de police rationnelle appuyée par les algorithmes est légitime.
- Pour la police d’Amsterdam, la légitimité dépend de la qualité du travail des professionnels de la police. Fournir des outils algorithmiques à ces professionnels augmente la légitimité policière.
- La publication repose sur une recherche qualitative.
- Deux organisations de police, l’une en Allemagne (à Berlin) et l’autre aux Pays-Bas (à Amsterdam), sont comparées.
- La sélection des deux organisations a été réalisée sur deux axes : la comparabilité de la technologie et les différences dans le contexte organisationnel.
- Des entrevues de recherche ont été réalisées avec des répondants travaillant à différents niveaux des organisations. Des documents de politique ont également été consultés.
- Les chercheurs ont codé les transcriptions des entrevues à l’aide du logiciel Nvivo. Les codes étaient basés sur les concepts de la théorie d’Orlikowski (les possibilités, les normes et valeurs et la signification).
- Aucune limite n’est identifiée.
Il n’y a aucune information concernant le financement.