Bullock, J. B. (2019). Artificial Intelligence, Discretion, and Bureaucracy. American Review of Public Administration, Vol. 49(7), 751-761
L’introduction des nouvelles technologies a changé le travail des fonctionnaires et particulièrement celui des agents de première ligne qui fournissent les services aux citoyens. Avec la domination de l’Internet, l’administration est passée du papier aux écrans. Plus récemment, les progrès technologiques et le développement de l’automatisation aboutit à une « bureaucratie des systèmes ». Celle-ci se caractérise par le rôle décisif que jouent les outils TIC, notamment l’intelligence artificielle (IA), dans les processus bureaucratiques et dans la prise de décision. Dans ce nouveau type de bureaucratie, l’automatisation des tâches se substitue parfois au jugement humain dans la prise de décision.
Ce texte documente les impacts de l’IA sur la transformation du pouvoir discrétionnaire des agents de première ligne et s’intéresse aux conséquences que l’IA engendre sur la gouvernance publique en général.
Définition:
L’IA s’appuie sur les développements technologiques et les capacités des ordinateurs qui ont la possibilité de penser et de décider d’une manière qui se rapproche de celle du cerveau humain. Ces capacités dépassent souvent celles des humains.
Les études sur l'IA font la distinction entre l’IA « faible » ou « étroite » qui est capable d’apprendre à accomplir un petit ensemble de tâches avec un objectif bien défini et l’IA «forte » ou «générale » qui est capable d’apprendre à effectuer un large éventail de tâches complexes qui touchent plusieurs domaines à la fois. Plutôt que de s’appuyer sur des règles précises conçues explicitement par les programmeurs, les systèmes d’IA modernes peuvent apprendre des modèles de données qu'ils rencontrent et élaborer leurs propres règles d'interprétation des nouvelles informations. Cela signifie que l'IA peut résoudre des problèmes et apprendre avec très peu de contribution humaine. La combinaison de l'IA et de la robotique permettra l'automatisation de nombreuses tâches jusque-là effectuées par les humains et pourrait changer la forme du marché du travail et de l'activité humaine.
- Une administration en transformation
Les administrations publiques deviennent progressivement des administrations numériques où le travail se fait davantage à travers les ordinateurs, plutôt qu’en face-à-face avec les usagers. Dans un nombre croissant de tâches, les technologies sont capables de remplacer le jugement humain et certains auteurs se questionnent sur les enjeux de la discrétion administrative numérique.
- Discrétion administrative et intelligence artificielle
L’auteur aborde les forces et les limites inhérentes à l'intelligence humaine, et par conséquent au pouvoir discrétionnaire des agents publics. Il affirme que l’être humain est doté de toutes les habilités nécessaires pour effectuer les tâches administratives complexes. Toutefois, malgré sa motivation et sa volonté d’agir avec efficacité et efficience, sa rationalité demeure limitée et reste imparfaite lorsqu’il s’agit d’appliquer la loi. Le processus décisionnel peut être affecté par des biais cognitifs, des erreurs, ou de la subjectivité.
Au fil du temps, les outils TIC ont aidé les humains à perfectionner leur pouvoir discrétionnaire, et donc la qualité des services administratifs. Cependant, les progrès de l'IA apparaissent particulièrement spectaculaires. Ce qui a commencé comme l’automatisation des efforts physiques et la saisie de données relativement simple évolue vers des tâches cognitives et analytiques complexes qui relèvent des agents publics.
Les applications potentielles de l’IA pour améliorer la qualité et l’efficience du travail administratif se multiplient et touchent des domaines variés tels que la santé et les services sociaux, la fiscalité, les transports ou encore la communication. Les gouvernements tardent cependant à adopter les nouvelles technologies et investissent peu dans leur renouvellement et leur mise à jour.
- L’avenir de la discrétion des agents de première ligne
Dans la littérature, deux thèses s’affrontent quant à l’influence des TIC sur le pouvoir discrétionnaire des agents de première ligne. D’une part, certains auteurs considèrent que le pouvoir discrétionnaire est en train de diminuer voire même disparaitre avec la prise de décision automatisée. D’autres auteurs nuancent ce constat en considérant que les TIC ne sont qu'un facteur parmi d'autres qui permet d’appréhender le pouvoir discrétionnaire des agents de première ligne.
Quatre arguments sont mis de l’avant pour critiquer la thèse de l’affaiblissement du pouvoir discrétionnaire : a) son déterminisme technologique, b) sa définition restreinte du pouvoir discrétionnaire, c) ses limites empiriques et d) le manque d’intérêt pour l’utilisation concrète des technologies par les travailleurs de première ligne.
L’auteur admet que, malgré l’usage d’outils informatiques, les agents de première ligne exercent toujours un pouvoir discrétionnaire. Cependant, en fonction du contexte, ce pouvoir est restreint et automatisé pour certaines tâches (ex. La gestion d’une bibliothèque, la surveillance de violation des feux de circulation ou le traitement de demandes de prêts étudiants) et activé et augmenté pour d'autres tâches (ex. Les interventions de pompiers ou d’agents de la police qui rencontrent des situations complexes et incertaines dans leurs interactions avec les citoyens).
Le passage vers la bureaucratie des systèmes est marqué par une transformation dans les profils d’employés. L’administration s’appuie désormais sur trois groupes d’employés; (a) ceux qui opèrent dans le processus de traitement des données, (b) les gestionnaires du processus de production, c) et ceux qui aident les clients dans l’interaction avec le système d’information.
- Influence de l’IA sur les bureaucraties et la distraction au niveau des systèmes
De nombreux chercheurs affirment que les progrès de l'IA vont atteindre un niveau tel que les machines auront la capacité d'aller au-delà de la programmation initiale et d'apprendre à apprendre, c’est-à-dire à faire preuve de jugement lorsque la situation change.
Ce constat soulève de multiples préoccupations quant aux principes de responsabilité et de contrôle. C’est pourquoi, il est important de procéder avec précaution dans le déploiement de l’IA pour remplacer la décision humaine.
Le défi serait d’abord de programmer des systèmes avec des valeurs et des motivations bien alignées avec celles de leurs concepteurs et de les orienter vers des objectifs bien définis, ce qui permettrait d’améliorer leur réactivité et la rationalité de leurs décisions. Il s’agit ensuite de doter ces machines d’une capacité de jugement qui leur permet de détecter les modifications subtiles de l’environnement, analyser et évaluer les situations puis prendre des décisions rapides, sans la supervision humaine.
Dans les bureaucraties de systèmes, le pouvoir discrétionnaire augmente auprès des concepteurs et des programmeurs des systèmes, qui peuvent être aussi bien des personnes ou des programmeurs d’intelligence artificielle.
L’IA ne cesse de se développer. Sa puissance et sa polyvalence ont fait d’elle une technologie à usages multiples qui offre de nombreuses potentialités tout en générant des risques et des défis. Dans le contexte de l’administration publique, l’IA peut être un outil à la fois bénéfique et néfaste et ce, pour les raisons suivantes : les systèmes d’IA sont généralement efficaces et évolutifs, ils peuvent dépasser les capacités humaines, ils peuvent augmenter l’anonymat et la distance psychologique, ils se prêtent à une diffusion rapide et ils contiennent souvent un certain nombre de problèmes non résolus.
Il appartient aux administrateurs publics et aux universitaires de réfléchir à la meilleure façon d’implanter ces technologies dans le secteur public et de gérer son influence sur le pouvoir discrétionnaire décroissant des agents de première ligne.
Les tâches avec un (très) faible degré de complexité et d’incertitude sont les plus appropriées à l’automatisation par IA. La décision numérique pourrait conduire, à des mesures plus équitables qui éliminent les risques de favoritisme et de discrimination. À l’inverse, il faudrait être plus prudent pour les tâches avec un degré (très) élevé de complexité et d’incertitude qui devraient rester du ressort des agents humains.
Il est important de poursuivre les recherches pour comprendre les implications de l’IA sur la discrétion administrative, la performance et la gouvernance publique. Les résultats de ces travaux permettront d’identifier des pistes de solution pour prévenir les risques et établir des balises éthiques qui permettraient de concilier les valeurs de l’administration publique avec les contributions de l’IA.
Méthodologie et limites de la recherche :
Il s’agit d’une étude théorique qui vise à comprendre les transformations du pouvoir discrétionnaire des agents publics. L’auteur part du postulat selon lequel l’intelligence se trouve au cœur du pouvoir discrétionnaire, qui constitue un élément central dans le fonctionnement de l’administration publique et dans la fourniture de services de qualité. Il explique que la discrétion suppose que les décisions sont prises par des individus qui tiennent compte des éléments du contexte avec tout ce qu’il comporte d’incertitude et de complexité. Une discussion plus large sur le lien entre les notions d’intelligence et de pourvoir discrétionnaire dans le contexte de l’administration publique est alors amorcée. L’auteur présente ensuite les caractéristiques de base de l’IA et enchaine avec ses conséquences sur l’avenir du pouvoir discrétionnaire, notamment dans le contexte de la « bureaucratie des systèmes ». En conclusion, l’auteur exprime ses préoccupations par rapport à l’usage de l’IA comme outil de gouvernance.
L’auteur n'a reçu aucune aide financière pour la recherche ou la publication de cet article.