Smith, R. A., et Desrochers, P. R. (2020). Should algorithms be regulated by government? Canadian Public Administration, 63(4), 563-581.
Avec les avancées technologiques et la transformation numérique des secteurs public et privé, les algorithmes occupent une place de plus en plus importante au sein de notre économie et de notre société. Cette prolifération soulève toutefois un certain nombre de questions quant à leur utilisation, leur transparence et leur imputabilité. Face à ce nouveau phénomène, la législation actuelle est mal adaptée aux algorithmes. Cette publication analyse les arguments en faveur de la mise en place d’un cadre réglementaire balisant l’utilisation des algorithmes et suggère les paramètres en la matière.
Définition
Les algorithmes sont des processus ou des règles menant aux calculs automatiques réalisés par des ordinateurs. Comme les algorithmes sont codés par les humains, des biais, préjugés ou de la discrimination peuvent se retrouver de manière involontaire dans leur code. Or, comme les algorithmes sont souvent intégrés dans des systèmes d’aide à la décision ou encore à des décisions automatiques, ces préjugés et biais peuvent avoir des conséquences réelles dans la vie des citoyens. Les chercheurs proposent trois catégories de décisions algorithmiques problématiques : illégale (par exemple, la discrimination est illégale), zone grise (par exemple, une situation où la décision en tant que telle n’est pas illégale, mais qu’elle crée des dommages) ou non-réglementé (par exemple, lorsqu’il y a une remise en cause des valeurs sur lesquelles sont prises les décisions).
- Une problématique majeure des algorithmes vient de leur opacité, c’est-à-dire qu’il est complexe d’expliciter la décision rendue.
- Cette opacité ne peut être résolue en expliquant le code puisque cela serait trop technique pour les citoyens et trop peu d’entre eux auraient les moyens (techniques ou temporels) de se prévaloir de cette solution;
- Afin de corriger ce déséquilibre et les externalités négatives pouvant en découler (par exemple, biais, discrimination), les chercheurs proposent de créer un cadre légal encadrant la décision et la prédiction automatisée en vue d’y intégrer certaines valeurs telles que l’équité et la transparence.
- Les algorithmes échappent au principe du droit à un procès équitable (due process) prévu par la constitution canadienne puisqu’ils prennent des décisions automatiquement, en fonction du code écrit par les programmeurs;
- Ces derniers se retrouvent donc à interpréter les politiques et potentiellement exploiter le pouvoir administratif en interprétant les politiques eux-mêmes et en traduisant cette compréhension dans leur code.
- Un tel phénomène porte atteinte au principe établit de la décision bureaucratique basée sur le droit, l’équité, la hiérarchie, la rationalité et la documentation.
- Le système juridique n’est pas bien outillé pour répondre aux défis que posent les algorithmes en matière d’imputabilité en raison de la difficulté d’établir le processus décisionnel.
- Pour mieux répondre à ce problème, l’équipe de recherche propose de mettre sur pied une agence régulatoire avec l’expertise, les ressources et l’autorité nécessaire pour assurer la transparence, l’imputabilité, le développement et le déploiement des algorithmes.
- Les gouvernements ne semblent pas avoir les ressources techniques pour examiner, juger et assurer l’imputabilité des algorithmes. Les gouvernements ne semblent pas non plus avoir la volonté politique de mettre à risque la productivité et la rentabilité de l’utilisation de ceux-ci.
- La place de la règle de droit et du droit à un procès juste est très importante. Il importe donc de s’assurer que les algorithmes soient imputables et que les citoyens aient accès à des mécanismes de recours afin d’assurer un traitement équitable lors de décisions automatisées. Le droit à un procès juste face aux algorithmes apparaît donc comme essentiel. Il est crucial de faire évoluer cette notion légale au vu des avancées technologiques.
- Afin d’assurer l’encadrement et le respect des lois en vigueur, une agence spécialisée devrait être mise en place au niveau fédéral. Une telle agence devrait avoir les moyens de bloquer ou restreindre l’utilisation d’algorithmes afin d’assurer qu’ils sont sécuritaires pour le public.
- Il apparaît nécessaire de définir, en tant que société, ce qu’est un algorithme adéquat et comment nous pouvons nous assurer que ceux-ci soient imputables, transparents et équitables.
- Il s’agit d’une revue systématique de la littérature portant sur le débat entourant la réglementation des algorithmes;
- Aucune méthode n’est expliquée dans cette publication. Toutefois, le texte est structuré en deux parties. La première porte sur les arguments en faveurs de la réglementation des algorithmes alors que la deuxième partie porte sur le degré de réglementation dont ils devraient faire l’objet;
- Du côté des limites, les chercheurs notent que la littérature sur la réglementation des algorithmes est axée sur la pratique américaine et est moins représentative du cadre régulatoire et administratif canadien.
Il n’y a pas d’information concernant le financement dans la publication.