Débutant
Qu’est-ce que la sécurité de l’IA ?
La sécurité de l’IA est le domaine interdisciplinaire et l’ensemble de pratiques visant à prévenir les dommages causés par les systèmes d’IA. Elle inclut la fiabilité, la prévention des usages abusifs, l’atténuation des biais et erreurs, l’alignement avec les valeurs humaines et l’analyse des risques à court et long terme.
En quoi le risque diffère-t-il du dommage ?
Utilisez le terme risque pour les résultats négatifs potentiels avant ou pendant l’évaluation ; utilisez le terme dommage pour l’effet négatif qui s’est produit ou qui peut être décrit concrètement.
Qu’est-ce qu’un safety case pour l’IA ?
Un safety case d’IA est un argument documenté, étayé par des preuves, selon lequel un système d’IA est suffisamment sûr pour un usage et un contexte d’exploitation définis. Il est particulièrement pertinent dans les secteurs à risque élevé où l’assurance doit être explicite, vérifiable et maintenue dans le temps.
Qu’est-ce que la dérive de modèle ?
La dérive de modèle est la dégradation ou l’évolution de la performance d’un modèle au fil du temps lorsque les données réelles, le comportement des utilisateurs ou les conditions d’exploitation s’écartent des données utilisées lors de l’entraînement ou de l’évaluation. Détecter cette dérive est important pour décider quand réentraîner, recalibrer ou remplacer un modèle.