Un hub de protection des données et de gouvernance data pour comprendre comment les systèmes d’IA utilisent, transforment, protègent et exposent les données.
25
Termes
9
Comparaisons
8
Questions
La protection des données dans l’IA se concentre sur les données qui entrent dans un système, la façon dont elles sont transformées, le maintien éventuel de l’identifiabilité des personnes et les contrôles qui protègent les données tout au long du cycle de vie. Elle fait le lien entre droit de la protection des données, ingénierie data, entraînement des modèles et supervision fournisseurs.
Les systèmes d’IA peuvent créer un risque pour la vie privée même lorsque la sortie semble inoffensive, car les données d’entraînement, prompts, logs, embeddings et documents récupérés peuvent exposer des informations sensibles.
Utile pour l’analyse RGPD, les revues de gouvernance des données au titre du Règlement sur l’IA, les DPIA ou PIA, les évaluations fournisseurs, la gouvernance des sources RAG et la réponse aux incidents.
Catégories de données qui déterminent les obligations de protection des données et les garanties renforcées dans les systèmes d’IA.
Techniques et concepts de gouvernance utilisés pour réduire l’identifiabilité et le risque d’exposition.
Contrôles permettant de savoir d’où viennent les données, comment elles sont utilisées et où elles sont stockées.
Comparaison côte à côte entre données à caractère personnel et données non personnelles. Comprendre comment l’identifiabilité modifie l’analyse de confidentialité, l’usage licite et les contrôles de gouvernance de l’IA.
Comparaison côte à côte entre données à caractère personnel et catégories particulières de données à caractère personnel. Comprendre pourquoi toutes les données de catégorie particulière sont des données personnelles, mais toutes les données personnelles ne bénéficient pas de la même protection renforcée.
Comparaison côte à côte entre anonymisation / dé-identification et pseudonymisation. Comprendre la différence entre réduire l’identifiabilité et remplacer des identifiants tout en gardant possible la ré-identification au moyen d’informations séparées.
Comparaison côte à côte entre données biométriques et catégories particulières de données à caractère personnel. Comprendre comment les identifiants biométriques se rattachent à l’ensemble plus large des données personnelles sensibles protégées dans l’analyse européenne de confidentialité.
Comparaison côte à côte entre l’anonymisation des données et la confidentialité différentielle. Comprendre comment la réduction de l’identifiabilité dans les données diffère de la limitation de ce qui peut être inféré à partir de calculs ou de sorties de modèles.
Comparaison côte à côte des données synthétiques et des données personnelles. Comprendre en quoi des données générées artificiellement diffèrent d’informations se rapportant à une personne identifiée ou identifiable.
Comparaison côte à côte du règlement général sur la protection des données (RGPD) et de l’EU AI Act. Comprendre en quoi les obligations de protection des données personnelles diffèrent des obligations fondées sur le risque applicables aux systèmes d’IA et aux modèles d’IA à usage général.
Comparaison côte à côte des données de production et des données d’entraînement. Elle explique en quoi les concepts diffèrent, quand chaque terme s’applique et pourquoi cette distinction compte pour la gouvernance, l’évaluation ou la conception des systèmes d’IA.
Comparaison côte à côte de la provenance des données et du registre des sources de données. Elle explique en quoi les concepts diffèrent, quand chaque terme s’applique et pourquoi cette distinction compte pour la gouvernance, l’évaluation ou la conception des systèmes d’IA.
Utilisez l’anonymisation ou la désidentification lorsque vous parlez de réduction ou de suppression de l’identifiabilité ; utilisez la pseudonymisation lorsque les données personnelles peuvent encore être attribuées à une personne à l’aide d’informations supplémentaires protégées.
Utilisez l’anonymisation des données lorsque vous modifiez des données pour réduire l’identifiabilité ; utilisez la confidentialité différentielle lorsque vous limitez les inférences individuelles à partir des sorties au moyen d’un cadre de protection de la vie privée.
Les données synthétiques sont des données générées artificiellement, conçues pour ressembler à certains motifs, structures ou propriétés statistiques de données réelles.
La provenance des données est l’historique enregistré des données, notamment leur origine, leur création, leurs transformations, leurs déplacements et leurs changements au fil du temps. Dans la gouvernance de l’IA, la provenance aide à vérifier la lignée des jeux de données, à évaluer leur fiabilité, à soutenir les audits et à comprendre comment du contenu numérique ou des entrées de modèle ont été produits.
La résidence et la souveraineté des données concernent l’endroit où les données sont stockées, traitées et gouvernées, ainsi que les régimes juridiques qui s’y appliquent. Pour les usages d’IA réglementés, ces concepts influencent le choix des régions cloud, les transferts transfrontaliers, les contrôles contractuels et la conformité aux exigences sectorielles ou nationales.
Utilisez le RGPD lorsque la question porte sur le traitement de données personnelles ; utilisez l’AI Act de l’UE lorsque la question porte sur la catégorie de risque du système d’IA, la sécurité, la transparence, la gouvernance ou les obligations de conformité.
Les données d’entraînement sont le jeu de données utilisé pour enseigner ou ajuster un modèle d’apprentissage automatique en modifiant ses paramètres apprenables. Leur qualité, quantité, diversité, étiquetage et provenance influencent fortement les performances, la fiabilité et la posture de conformité du modèle obtenu.
Le chiffrement des données est la transformation de données lisibles en une forme encodée, inintelligible sans clé autorisée ou processus de déchiffrement. Il est utilisé pour protéger les informations sensibles contre les accès non autorisés pendant le stockage, la transmission ou le traitement.