Un hub de gouvernance pour organiser les systèmes d’IA, les risques, les rôles, les preuves, les politiques, les audits et la responsabilité sur tout le cycle de vie de l’IA.
30
Termes
9
Comparaisons
8
Questions
La gouvernance de l’IA transforme une responsabilité abstraite en pratiques répétables : inventaires, politiques, évaluations des risques, dossiers de preuve, audits et monitoring. Elle relie les obligations juridiques au travail produit, data, sécurité et achats.
Sans gouvernance, les équipes ne peuvent pas prouver qui a approuvé un système d’IA, quelles données il a utilisées, comment il a été testé ni quels contrôles existaient lorsqu’un problème est survenu.
Utile pour les programmes ISO/IEC 42001, la préparation au Règlement sur l’IA, la gouvernance fournisseurs, la conception de politiques internes, la préparation d’audits et le reporting des risques IA au niveau du conseil.
Concepts pour organiser la responsabilité, la redevabilité, l’inventaire et les contrôles de politiques.
Termes liés à la revue, à la preuve et à l’amélioration des systèmes d’IA et des processus de gouvernance associés.
Problèmes récurrents de gouvernance qui apparaissent dans les systèmes réels et les workflows d’achat.
Comparaison côte à côte entre système d’IA et modèle d’IA. Comprendre pourquoi un modèle est généralement un composant, tandis qu’un système d’IA inclut l’ensemble déployé plus large qui transforme des entrées et des objectifs en sorties.
Comparaison côte à côte entre évaluation des risques liés à l’IA et audit d’IA. Comprendre comment un processus de risque soutient les décisions avant et pendant le déploiement, tandis qu’un audit évalue des systèmes ou la gouvernance au regard de critères définis.
Comparaison côte à côte entre l’assurance IA et l’audit IA. Comprendre comment l’assurance est une pratique plus large de production de preuves et de confiance, tandis que l’audit est une évaluation structurée au regard de critères définis.
Comparaison côte à côte entre la gouvernance de l’IA et le système de management de l’IA. Comprendre comment le cadre plus large de supervision diffère des processus structurés ou de la plateforme utilisée pour gérer l’IA tout au long du cycle de vie.
Comparaison côte à côte entre un système de management de l’IA et l’ISO/IEC 42001. Comprendre la différence entre le système de gouvernance de l’IA d’une organisation et la norme internationale destinée à l’établir et l’améliorer.
Comparaison côte à côte d’un inventaire IA ou registre des systèmes et d’une politique d’utilisation de l’IA. Comprendre en quoi un catalogue des systèmes d’IA diffère des règles d’usage organisationnel acceptable.
Comparaison côte à côte du Shadow AI et de l’inventaire IA / registre des systèmes. Elle explique en quoi les concepts diffèrent, quand chaque terme s’applique et pourquoi cette distinction compte pour la gouvernance, l’évaluation ou la conception des systèmes d’IA.
Comparaison côte à côte de l’IA digne de confiance et de l’IA responsable. Elle explique comment un terme décrit les qualités qui soutiennent la confiance dans l’IA, tandis que l’autre décrit les pratiques utilisées pour gouverner l’IA de manière responsable.
Comparaison côte à côte du risque fournisseur et de la due diligence fournisseur. Elle explique en quoi les concepts diffèrent, quand chaque terme s’applique et pourquoi cette distinction compte pour la gouvernance, l’évaluation ou la conception des systèmes d’IA.
Utilisez l’évaluation des risques liés à l’IA pour identifier et gérer les risques ; utilisez l’audit de l’IA pour évaluer les preuves, les contrôles ou les déclarations au regard de critères définis.
L’assurance de l’IA désigne l’ensemble des pratiques qui fournissent une confiance justifiée dans le fait qu’un système d’IA fonctionne comme prévu dans son contexte opérationnel.
Le shadow AI désigne l’utilisation d’outils ou de systèmes d’IA sans approbation, supervision ou gouvernance formelle de la part d’une organisation. Il crée des risques liés aux fuites de données, à la conformité, à la sécurité et à l’incohérence des décisions, et se gère généralement par des politiques, des alternatives approuvées, la formation et la surveillance.
Une politique d’utilisation de l’IA est un document interne de gouvernance qui définit comment les outils et systèmes d’IA peuvent être utilisés au sein d’une organisation. Elle couvre généralement les usages acceptables et interdits, les rôles et responsabilités, le traitement des données, les exigences d’approbation, la surveillance et l’escalade des incidents.
La diligence raisonnable des fournisseurs d’IA est l’évaluation des produits ou fournisseurs d’IA tiers au regard des risques de sécurité, de confidentialité, de fiabilité, de gouvernance et de conformité. Elle aide les organisations à décider si, et comment, un fournisseur peut être approuvé, acheté, surveillé ou restreint en toute sécurité.
La responsabilité algorithmique désigne la responsabilité liée à la conception, au fonctionnement, aux décisions et aux impacts des systèmes algorithmiques. Elle implique la transparence, la traçabilité, la supervision et des mécanismes permettant d’expliquer, de contester ou de réparer les résultats préjudiciables.
Une fiche de modèle d’IA est un document de synthèse qui accompagne un modèle entraîné ou un service d’IA. Elle décrit généralement l’usage prévu, les limites, les résultats d’évaluation, les risques pertinents, le contexte des données ou de l’entraînement et d’autres informations utiles à la transparence et au déploiement responsable.
La transparence est le degré auquel l’objectif, l’utilisation des données, le fonctionnement, les limites et les sorties d’un système d’IA peuvent être compris ou examinés par les parties prenantes concernées.