Débutant
Qu’est-ce que la sécurité de l’IA ?
La sécurité de l’IA est le domaine interdisciplinaire et l’ensemble de pratiques visant à prévenir les dommages causés par les systèmes d’IA. Elle inclut la fiabilité, la prévention des usages abusifs, l’atténuation des biais et erreurs, l’alignement avec les valeurs humaines et l’analyse des risques à court et long terme.
En quoi le risque diffère-t-il du dommage ?
Utilisez le terme risque pour les résultats négatifs potentiels avant ou pendant l’évaluation ; utilisez le terme dommage pour l’effet négatif qui s’est produit ou qui peut être décrit concrètement.
Qu’est-ce qu’un safety case pour l’IA ?
Un safety case d’IA est un argument documenté, étayé par des preuves, selon lequel un système d’IA est suffisamment sûr pour un usage et un contexte d’exploitation définis. Il est particulièrement pertinent dans les secteurs à risque élevé où l’assurance doit être explicite, vérifiable et maintenue dans le temps.
Qu’est-ce que la dérive de modèle ?
La dérive de modèle est la dégradation ou l’évolution de la performance d’un modèle au fil du temps lorsque les données réelles, le comportement des utilisateurs ou les conditions d’exploitation s’écartent des données utilisées lors de l’entraînement ou de l’évaluation. Détecter cette dérive est important pour décider quand réentraîner, recalibrer ou remplacer un modèle.
Intermédiaire
En quoi la dérive des données diffère-t-elle de la dérive de concept ?
Utilisez la dérive des données lorsque la distribution des données d’entrée change ; utilisez la dérive de concept lorsque la relation entre les entrées et le résultat cible change.
Qu’est-ce que l’alignement dans la sécurité de l’IA ?
L’alignement est la pratique consistant à concevoir, entraîner et gouverner un système d’IA de manière à ce que ses objectifs, ses sorties et son comportement restent cohérents avec les intentions humaines, les valeurs et les contraintes d’usage acceptable.
Qu’est-ce qu’un incident grave d’IA ?
Un incident d’IA est un événement ou une série d’événements dans lesquels le développement, le déploiement, l’utilisation ou le dysfonctionnement d’un système d’IA cause ou pourrait causer un préjudice. Ce préjudice peut concerner la sécurité, la discrimination, la confidentialité, la conformité juridique, les infrastructures critiques, les biens, les communautés ou l’environnement.
Qu’est-ce que le contrôle humain dans la boucle ?
HITL, ou humain dans la boucle, est une approche dans laquelle les personnes restent impliquées dans l’orientation, la revue, l’approbation ou l’amélioration des sorties ou décisions d’un système d’IA. Elle est utilisée pour combiner l’efficacité de la machine avec le jugement humain, en particulier dans les tâches à risque plus élevé ou sensibles au contexte.
Qu’est-ce que la toxicité de l’IA ?
La toxicité de l’IA désigne les sorties nuisibles, offensantes, fausses, biaisées ou autrement inappropriées générées ou amplifiées par un système d’IA. Elle peut provenir des données d’entraînement, de la conception du système, du contexte du prompt, d’un mauvais alignement ou de protections insuffisantes.
Pourquoi le suivi après commercialisation est-il important ?
Un système de suivi après commercialisation comprend les activités des fournisseurs de systèmes d’IA visant à collecter et examiner l’expérience issue des systèmes mis sur le marché ou mis en service. Son objectif est d’identifier si une action corrective ou préventive est nécessaire après le déploiement.
Avancé
Qu’est-ce que la détection d’anomalies dans la surveillance de l’IA ?
La détection d’anomalies est le processus d’identification d’observations, d’événements ou de motifs qui diffèrent fortement du comportement attendu. En IA et en analyse de données, elle sert à signaler des valeurs aberrantes pouvant indiquer des erreurs, fraudes, incidents de sécurité, défaillances système ou autres conditions inhabituelles.
Qu’est-ce que la sécurité dès la conception pour les systèmes d’IA ?
La sécurité dès la conception est une approche dans laquelle les exigences et protections de sécurité sont intégrées dès le début du développement du système. Pour les systèmes d’IA, cela inclut l’anticipation des mauvais usages, la protection des données et des modèles, ainsi que l’intégration des contrôles d’accès, de la surveillance et de la résilience tout au long du cycle de vie.