McKelvey, F., MacDonald, M. (2019). Artificial Intelligence Policy Innovations at the Canadian Federal Government. Canadian Journal of Communication Policy Portal, 44(2), pp. 43-50.
L'intelligence artificielle (IA) représente un vecteur de transformation et de création de nouveaux emplois tant pour le secteur privé que pour le secteur public. Pour stimuler et garantir les retombées liées à ces changements technologiques, il est crucial que le Gouvernement puisse adapter son cadre de gouvernance en matière d’IA. Cette publication détaille deux initiatives liées à la gouvernance de l’IA dans la fonction publique canadienne : (1) la consultation et la collaboration du public dans la compilation d’une évaluation d’impact algorithmique et (2) un symposium sur l’IA et les droits de la personne organisé par Affaires mondiales Canada (AmC).
Définition
La notion centrale de la publication est l’intelligence artificielle (IA). Toutefois, aucune définition de cette notion n’a été recensée dans l’article. Dans cette publication, l'IA est située à l'intersection des données massives (big data) et de l'automatisation. Entre autres, l'apprentissage machine est une technique d’apprentissage permettant à un algorithme de s'améliorer en fonction des cas d’une situation ou d’un objet en particulier qui lui sont présentés. Par conséquent, pour optimiser la fiabilité des algorithmes, des quantités massives de données sont nécessaires à son entrainement, ce qui peut dans certains cas poser des problèmes de confidentialité.
Outre la notion centrale, la publication détaille des standards et des normes relatives à l’IA. Trois standards sont ainsi présentés : (1) FAIR, (2) FACT et (3) FATE. Le standard FAIR est lié à la nature des données. FAIR est l’acronyme des termes disponible (Findable), accessible (Accesible), interopérable (Interoperability) et réutilisable (Reusable). Le second standard est, pour sa part, axé sur la transparence des technologies d’IA. FACT est l’acronyme pour l’équité (Fairness), la précision (Accuracy), la confidentialité (Confidentiality) et la transparence (Transparency). Enfin, le dernier acronyme FATE est axé sur l’éthique et la transférabilité des technologies de l’IA. En ce sens, l’appellation FATE correspond à l’application des critères d’équité (Fairness), de précision (Accuracy), de transparence (Transparency) et d’éthique (Ethics)
Malgré les appels à la création d'une nouvelle législation pour l'IA, aucune législation en matière de gouvernance de l'IA n’est en vigueur au Canada. Face ce décalage, deux ministères ont entrepris des expériences pour développer de nouvelles pratiques en matière de gouvernance de l'IA au sein de la fonction publique fédérale : le Secrétariat du Conseil du Trésor et Affaires Mondiales Canada.
Les analyses d’impact algorithmique du Secrétariat du Conseil du Trésor
Dans la fonction publique fédérale, le Secrétariat du Conseil du Trésor est chargé d’établir les lignes directrices des politiques publiques canadiennes. En matière d’IA, le Secrétariat du Conseil du Trésor a élaboré, en 2019, la directive relative à la prise de décision automatisée. Pour arriver à cette directive, différentes actions ont été mise en œuvre. Les prémices de cette directive se trouvent dans le Livre blanc relatif aux perturbations numériques publié en 2017. Par la suite, une consultation publique regroupant principalement des experts a été organisée afin de partager des nouvelles et des rapports. Cette collaboration du public, axée sur la collecte d’avis et de commentaires, a permis au Secrétariat du Conseil du Trésor de rédiger le document intitulé « Responsible AI in the Government of Canada ». Ce document résume les avantages et les risques de l'IA pour le gouvernement fédéral. En mars 2018, ce rapport a été traduit en une analyse d'impact algorithmique. Cette dernière a pour finalité de fournir aux gestionnaires publics un outil pour évaluer les risques liés à l’IA. Cette évaluation se base sur les cinq facteurs suivants : (1) l’impact de la technologie sur les personnes, (2) l’impact sur les institutions gouvernementales, (3) la gestion des données, (4) la complexité et (5) l’équité.
L’IA et les droits de l’homme pour Affaires mondiales Canada
Affaires mondiales Canada (AMC) a mis en évidence la promotion les droits de l'Homme, l'autonomisation et l'égalité des sexes dans les technologies de l’IA. À ce titre, AMC a soumis ces problématiques à son laboratoire d’inclusion numérique. Pour ce faire, en 2017, AMC a entrepris d’organiser un symposium sur l’IA et les droits de l’Homme en collaboration avec les universités et l’Institut canadien pour la recherche avancée (ICRA). Dans le cadre de cette activité, des équipes d’étudiant.e.s de dix universités ont travaillé sur les interventions publiques potentielles pour réguler l’IA. Sur la base des recherches réalisées par les étudiants, un rapport contenant les différentes recommandations a été envoyé au Ministre des affaires étrangères. Toutefois à ce stade, les résultats de ce symposium restent incertains. Le principal résultat semble être qu’une collaboration avec le Conseil stratégique des dirigeants de l'information est nécessaire pour assurer le développement des normes éthiques en matière d'IA.
Cet article résume deux initiatives relatives à la gouvernance de l'IA dans le secteur public canadien. Une fois développée, la technologie de l'IA doit être adéquatement mise en œuvre et être utilisée lorsque les experts la jugent acceptable.
L’analyse de ces deux interventions soulève des questions quant à l'objectif de la consultation du ministère de l'Innovation, des Sciences et de l'Industrie. En effet, tout en sollicitant ouvertement l'opinion publique, le Gouvernement a formulé rapidement sa politique. Une telle approche sape la confiance dans le processus de consultation dans l’élaboration des politiques publiques.
Les normes relatives à l'IA peuvent et doivent être abordées dans une perspective critique incluant, à l’instar de l’outil d’évaluation de l’impact algorithmique, l’ensemble des parties prenantes au-delà du secteur technologique.
Aucune méthode n’a été détaillée dans cette publication. Cette dernière décrit deux initiatives en lien avec l’IA entreprises dans la fonction publique canadienne.
Aucune limite n’a été mentionnée dans cette publication.
Il n’y a pas d’information concernant le financement dans l’article.