Janssen, M., Brous, P., Estevez, E., Barbosa, L. S., & Janowski, T. (2020). Data governance: Organizing data for trustworthy Artificial Intelligence. Government Information Quarterly, 37(3), 101493.
Le développement des données massives a permis la création de systèmes algorithmiques plus efficaces. Ces systèmes sont de plus en plus utilisés afin de prendre des décisions ayant des conséquences réelles pour les individus, les communautés et la société. Pour cette raison, leurs erreurs ne peuvent être tolérées. Les systèmes algorithmiques de données massives dépendent des données pour fonctionner. Ces données massives sont variées, dynamiques et diffusées à haute vitesse en temps réel. Par conséquent, la gestion des données est complexe. Pour surmonter les défis de la gestion des données, les organisations ont développé des capacités avancées de gouvernance des données. Cette publication examine les défis et les approches de gouvernance des données pour les systèmes algorithmiques de données massives et propose un cadre de gouvernance des données digne de confiance.
Définition
La gouvernance des données réfère à la définition, l’application et la surveillance de modèles de règles et d’autorité que les organisations et leurs employés mettent en place pour assurer la responsabilité de l’ensemble du cycle de vie des données et des algorithmes au sein des organisations et entres-elles.
Le cycle de vie des données réfère à la création, au traitement, au partage, à la destruction des données et à la résolution de problèmes techniques et institutionnels, ainsi qu’aux répercussions sociales du partage de données.
La gouvernance des données implique la standardisation des données, l’attribution de procédures et d’autorités décisionnelles pour assurer la gestion et la qualité des données, la surveillance de l’utilisation des données et la surveillance de l’ensemble de ces systèmes dans le cadre du cycle de vie des données.
- Les données sont souvent fragmentées parmi plusieurs organisations qui implémentent des politiques des données. Cette réalité peut entraîner une responsabilité floue sur l’usage des données, la reddition de comptes et la méconnaissance de la qualité des données.
- Le lien de causalité entre un événement et une défaillance du système peut être difficile à établir sans un cadre de gouvernance des données.
- L’inadéquation entre la structure organisationnelle et l’utilisation des données peut facilement entraîner des silos de données, des duplications, des responsabilités floues et un contrôle inadéquat des données sur l’ensemble de leur cycle de vie.
- Les chercheurs présentent trois approches de gouvernance de données :
- L’approche axée sur la planification et le contrôle se base sur le cycle annuel de planification et de contrôle. À chaque début de cycle, des objectifs sont fixés, les budgets sont alloués et les projets sont définis, implémentés, surveillés et évalués. Cette approche est souvent critiquée pour son manque de flexibilité.
- L’approche organisationnelle met l’accent sur les structures, la responsabilisation et la reddition de comptes. Cette approche préconise la création de structures décisionnelles dans les domaines de la gestion des données, de l’intelligence artificielle (IA), de la protection de la vie privée ou de la confidentialité.
- L’approche axée sur la gestion de risques (p.ex., les données manquantes, volées, désuètes ou biaisées) est préconisée comme fondement de la gouvernance des données. Des actions peuvent être menées après un incident et/ou préventivement, selon le mécanisme de gouvernance.
- Ces approches peuvent être toutes en place et se compléter. Néanmoins, différents mécanismes de gouvernance doivent être introduits avec prudence.
- La gouvernance des données est basée sur les attentes et les valeurs de la société. Afin de les prendre en compte, les organisations publiques doivent créer une culture où les données sont traitées comme un atout et s’assurer que les réglementations et les valeurs publiques soient préservées.
- Le fondement de la gouvernance des données est la collecte responsable des données. Si des données sensibles comme le genre, la race, l’adresse résidentielle, l’état de santé ou les orientations politiques sont collectées, elles risquent d’être détournées ou de faire l’objet d’abus.
- La propriété des données est souvent difficile à établir et plusieurs personnes peuvent en revendiquer les droits. Dans le cas des données, la notion d’intendance des données est préférée à celle de propriété. Elle met l’accent sur les comportements responsables liés à la donnée et la prise en charge des données par plusieurs gestionnaires.
- Tous les fonctionnaires devraient être sensibilisés et formés pour assumer la responsabilité de garantir la qualité et le partage approprié des données.
- D’un point de vue opérationnel, les données doivent être gérées par une seule organisation, mais peuvent être utilisées par d’autres.
- Dans un scénario idéal, la prise de décision algorithmique devrait être en conformité dès la conception avec l’ensemble des normes et régulations pertinentes. Ce scénario devrait garantir la propriété des données sans ambiguïté, la surveillance des sources de données et de la qualité des données, le respect contrôlé des normes et la conformité à d’autres exigences spécifiques. Diverses sources de données utilisées doivent être vérifiées pour la qualité, les biais et d’autres propriétés.
- La surveillance du processus d’apprentissage des algorithmes devrait couvrir les problèmes liés aux données, à la qualité (p. ex la présence de biais) et à l’adéquation des algorithmes et des données qu’ils contiennent avec les problèmes qu’ils sont appelés à résoudre.
- Des cadres de gestion des données dignes de confiance doivent garantir que les données appropriées sont partagées de manière sécurisée et fiable et conformément aux réglementations telles que le Règlement général sur la protection des données (RGPD).
- La difficulté de réaliser des vérifications sur les données et les algorithmes doit être compensée par une évaluation des risques, des audits réguliers, des protocoles d’échantillonnage, des vérifications de validité et de qualité, des responsabilités claires et d’autres mécanismes de surveillance.
- Cette publication est un article conceptuel.
- Aucune limite à la recherche n’est identifiée.
Il n’y a aucune information sur le financement.