Intermédiaire
En quoi la dérive des données diffère-t-elle de la dérive de concept ?
Utilisez la dérive des données lorsque la distribution des données d’entrée change ; utilisez la dérive de concept lorsque la relation entre les entrées et le résultat cible change.
Qu’est-ce que l’alignement dans la sécurité de l’IA ?
L’alignement est la pratique consistant à concevoir, entraîner et gouverner un système d’IA de manière à ce que ses objectifs, ses sorties et son comportement restent cohérents avec les intentions humaines, les valeurs et les contraintes d’usage acceptable.
Qu’est-ce qu’un incident grave d’IA ?
Un incident d’IA est un événement ou une série d’événements dans lesquels le développement, le déploiement, l’utilisation ou le dysfonctionnement d’un système d’IA cause ou pourrait causer un préjudice. Ce préjudice peut concerner la sécurité, la discrimination, la confidentialité, la conformité juridique, les infrastructures critiques, les biens, les communautés ou l’environnement.
Qu’est-ce que le contrôle humain dans la boucle ?
HITL, ou humain dans la boucle, est une approche dans laquelle les personnes restent impliquées dans l’orientation, la revue, l’approbation ou l’amélioration des sorties ou décisions d’un système d’IA. Elle est utilisée pour combiner l’efficacité de la machine avec le jugement humain, en particulier dans les tâches à risque plus élevé ou sensibles au contexte.
Qu’est-ce que la toxicité de l’IA ?
La toxicité de l’IA désigne les sorties nuisibles, offensantes, fausses, biaisées ou autrement inappropriées générées ou amplifiées par un système d’IA. Elle peut provenir des données d’entraînement, de la conception du système, du contexte du prompt, d’un mauvais alignement ou de protections insuffisantes.
Pourquoi le suivi après commercialisation est-il important ?
Un système de suivi après commercialisation comprend les activités des fournisseurs de systèmes d’IA visant à collecter et examiner l’expérience issue des systèmes mis sur le marché ou mis en service. Son objectif est d’identifier si une action corrective ou préventive est nécessaire après le déploiement.
Avancé
Qu’est-ce que la détection d’anomalies dans la surveillance de l’IA ?
La détection d’anomalies est le processus d’identification d’observations, d’événements ou de motifs qui diffèrent fortement du comportement attendu. En IA et en analyse de données, elle sert à signaler des valeurs aberrantes pouvant indiquer des erreurs, fraudes, incidents de sécurité, défaillances système ou autres conditions inhabituelles.
Qu’est-ce que la sécurité dès la conception pour les systèmes d’IA ?
La sécurité dès la conception est une approche dans laquelle les exigences et protections de sécurité sont intégrées dès le début du développement du système. Pour les systèmes d’IA, cela inclut l’anticipation des mauvais usages, la protection des données et des modèles, ainsi que l’intégration des contrôles d’accès, de la surveillance et de la résilience tout au long du cycle de vie.