Débutant
Qu’est-ce que l’AI Act de l’UE ?
L’AI Act de l’UE est un règlement de l’Union européenne qui établit un cadre fondé sur les risques pour les systèmes d’IA et, dans certains cas, les modèles d’IA à usage général. Il définit des catégories d’usage de l’IA et attribue des obligations de sécurité, de transparence, de gouvernance et de conformité selon le niveau de risque.
Qui est fournisseur au sens de l’AI Act de l’UE ?
Un fournisseur est une personne, une organisation, une autorité publique, une agence ou un autre organisme qui développe un système d’IA ou un modèle d’IA à usage général, ou le fait développer, et le met sur le marché ou le met en service sous son propre nom ou sa propre marque.
Quelle différence entre un fournisseur et un déployeur ?
Utilisez fournisseur pour l’acteur qui développe, met sur le marché ou met en service un système d’IA ou un modèle GPAI sous son nom ; utilisez déployeur pour l’acteur qui utilise un système d’IA sous son autorité.
Qu’est-ce que l’évaluation de la conformité d’un système d’IA ?
L’évaluation de la conformité est le processus consistant à déterminer si un système, un produit ou un processus satisfait à des exigences juridiques ou techniques définies.
Qu’est-ce que la sécurité des LLM ?
Un LLM, ou grand modèle de langage, est un modèle de langage doté d’un grand nombre de paramètres, entraîné sur de vastes données textuelles ou multimodales pour comprendre et générer du langage.
Qu’est-ce qu’une injection de prompt ?
L’injection de prompt est une technique adversariale qui manipule un modèle de langage en plaçant des instructions malveillantes ou non prévues dans une entrée utilisateur, des documents, des pages web ou d’autres contenus traités par le modèle.
Qu’est-ce qu’un jailbreak dans un système LLM ?
L’injection de prompt ou le jailbreak désigne une entrée adversariale destinée à contourner les instructions, les politiques de sécurité ou les contrôles opérationnels d’un modèle. Les mesures d’atténuation incluent le filtrage des entrées, l’isolation du retrieval, l’accès aux outils selon le moindre privilège, l’application de politiques et des garde-fous en couches.
En quoi le RAG diffère-t-il du fine-tuning ?
Utilisez le RAG lorsque le modèle a besoin d’informations actuelles, fondées sur des sources ; utilisez le fine-tuning lorsque le modèle doit apprendre un comportement spécialisé, une performance de tâche, une adaptation de domaine ou un style à partir de données.
Qu’est-ce que la gouvernance de l’IA ?
La gouvernance de l’IA est le cadre de politiques, processus, rôles, contrôles et mécanismes de supervision utilisés pour piloter le développement et l’usage de l’IA sur l’ensemble de son cycle de vie. Elle vise à garantir des pratiques IA responsables, licites, sûres, transparentes et redevables au sein d’une organisation ou d’une juridiction.
Qu’est-ce qu’un système de management de l’IA ?
Un système de management de l’IA est une plateforme organisationnelle ou un ensemble structuré de processus permettant de gérer les projets et systèmes d’IA sur tout leur cycle de vie. Il coordonne la gouvernance, les flux de données, le développement des modèles, le déploiement, la surveillance, la compliance et les activités de responsabilité.
Qu’est-ce qu’ISO/IEC 42001 ?
ISO/IEC 42001 est une norme internationale pour établir, mettre en œuvre, maintenir et améliorer un système de management de l’IA. Elle aide les organisations à gouverner le développement et l’utilisation de l’IA au moyen de politiques, rôles, gestion des risques, supervision et amélioration continue.
Qu’est-ce qu’un registre d’inventaire des systèmes d’IA ?
Un inventaire IA ou registre des systèmes est un catalogue organisé des systèmes et cas d’usage d’IA au sein d’une organisation. Il consigne généralement les responsables, finalités, sources de données, statut de déploiement, risques, contrôles et autres informations nécessaires à la gouvernance, à l’audit et à l’accountability.
Qu’est-ce qu’une donnée personnelle en IA ?
Une donnée personnelle est une information se rapportant à une personne physique identifiée ou identifiable au sens du droit de la protection des données. Dans les contextes de l’Union européenne, sa signification est liée à l’article 4(1) du règlement (UE) 2016/679 et à son interprétation juridique.
Qu’est-ce qu’une donnée de catégorie particulière en IA ?
Les catégories particulières de données personnelles sont des types très sensibles de données personnelles identifiés par le droit européen de la protection des données.
Les données biométriques sont-elles des données personnelles ?
Les données biométriques sont des données personnelles produites par un traitement technique spécifique des caractéristiques physiques, physiologiques ou comportementales d’une personne. Exemples : images faciales, empreintes digitales, schémas vocaux, démarche et autres identifiants pouvant permettre la reconnaissance ou l’identification.
Qu’est-ce que l’anonymisation dans la gouvernance des données d’IA ?
L’anonymisation et la désidentification sont des techniques utilisées pour réduire le risque que des personnes puissent être identifiées à partir d’un jeu de données. En pratique, une anonymisation irréversible peut être difficile, surtout lorsque les jeux de données peuvent être reliés à d’autres informations.
Qu’est-ce que la sécurité de l’IA ?
La sécurité de l’IA est le domaine interdisciplinaire et l’ensemble de pratiques visant à prévenir les dommages causés par les systèmes d’IA. Elle inclut la fiabilité, la prévention des usages abusifs, l’atténuation des biais et erreurs, l’alignement avec les valeurs humaines et l’analyse des risques à court et long terme.
En quoi le risque diffère-t-il du dommage ?
Utilisez le terme risque pour les résultats négatifs potentiels avant ou pendant l’évaluation ; utilisez le terme dommage pour l’effet négatif qui s’est produit ou qui peut être décrit concrètement.
Qu’est-ce qu’un safety case pour l’IA ?
Un safety case d’IA est un argument documenté, étayé par des preuves, selon lequel un système d’IA est suffisamment sûr pour un usage et un contexte d’exploitation définis. Il est particulièrement pertinent dans les secteurs à risque élevé où l’assurance doit être explicite, vérifiable et maintenue dans le temps.
Qu’est-ce que la dérive de modèle ?
La dérive de modèle est la dégradation ou l’évolution de la performance d’un modèle au fil du temps lorsque les données réelles, le comportement des utilisateurs ou les conditions d’exploitation s’écartent des données utilisées lors de l’entraînement ou de l’évaluation. Détecter cette dérive est important pour décider quand réentraîner, recalibrer ou remplacer un modèle.
Qu’est-ce que l’évaluation de modèle ?
L’évaluation est le processus qui consiste à mesurer la qualité, le comportement ou la performance d’un modèle, d’un système ou d’un changement par rapport à des critères définis. En apprentissage automatique, elle peut utiliser des données de validation et de test, tandis que l’évaluation des LLM peut aussi inclure la sécurité, la factualité, la robustesse et l’impact sur les utilisateurs.
Qu’est-ce qu’un benchmark en évaluation de l’IA ?
Un benchmark est un test, un jeu de données, une tâche ou une procédure d’évaluation standardisés utilisés pour mesurer et comparer les performances de systèmes d’IA.
Quelle est la différence entre précision et rappel ?
Utilisez la précision lorsque les faux positifs sont coûteux ; utilisez le rappel lorsque les positifs manqués sont coûteux.
Pourquoi l’accuracy peut-elle être trompeuse ?
L’accuracy est une métrique de classification égale à la proportion de prédictions correctes parmi toutes les prédictions effectuées. Elle est utile dans certains contextes d’évaluation, mais peut être trompeuse lorsque les classes sont déséquilibrées, où la précision, le rappel ou d’autres métriques peuvent mieux refléter la performance du modèle.
Qu’est-ce que l’IA agentique ?
L’IA agentique désigne des systèmes d’IA capables de poursuivre des objectifs en percevant le contexte, en prenant des décisions, en planifiant des étapes et en accomplissant des actions avec un certain degré d’autonomie.
Qu’est-ce qu’un agent d’IA ?
Un agent d’IA est une entité ou un système logiciel qui perçoit un environnement, interprète des entrées et entreprend des actions pour atteindre des objectifs.
Qu’est-ce qu’un workflow agentique ?
Un workflow agentique est un processus dans lequel un agent d’IA planifie et exécute plusieurs étapes vers un objectif défini. Il peut inclure raisonnement, appel d’outils, interaction avec des systèmes externes, suivi et autocorrection lorsque les conditions changent.
Qu’est-ce qu’une boucle agentique ?
Une boucle agentique est le cycle répété par lequel un agent d’IA observe une situation, raisonne sur ce qu’il doit faire, agit et utilise le retour d’information pour continuer ou s’arrêter. La boucle se poursuit jusqu’à ce qu’un objectif soit atteint, qu’une condition d’échec survienne ou qu’une autre règle de terminaison soit satisfaite.
Qu’est-ce que l’IA biométrique ?
La technologie biométrique désigne des systèmes qui utilisent des données biométriques pour reconnaître, vérifier ou identifier l’identité d’une personne. Les exemples incluent la reconnaissance faciale, la lecture d’empreintes digitales, la reconnaissance de l’iris, la reconnaissance vocale et des outils connexes d’assurance d’identité.
Qu’est-ce qu’une donnée biométrique ?
Les données biométriques sont des données personnelles produites par un traitement technique spécifique des caractéristiques physiques, physiologiques ou comportementales d’une personne. Les exemples incluent les images faciales, empreintes digitales, motifs vocaux, démarche et autres identifiants pouvant soutenir la reconnaissance ou l’identification.
Qu’est-ce que l’identification biométrique ?
L’identification biométrique est la reconnaissance automatisée de l’identité d’une personne physique en comparant ses données biométriques à des données biométriques stockées dans une base de données. Il s’agit généralement d’un processus de correspondance un-à-plusieurs visant à établir qui est la personne.
En quoi la vérification biométrique diffère-t-elle de l’identification biométrique ?
Utilisez l’identification biométrique lorsque l’accent porte sur la reconnaissance automatisée de l’identité d’une personne physique en comparant ses données biométriques à une base de données ; utilisez la vérification biométrique lorsque l’accent porte sur la confirmation automatisée un-à-un de l’identité revendiquée par une personne.
Qu’est-ce que le machine learning ?
Le machine learning (ML), ou apprentissage automatique, est un sous-domaine de l’intelligence artificielle dans lequel des systèmes apprennent des motifs à partir de données ou d’expériences afin de produire des prédictions, classifications, recommandations ou décisions sans être explicitement programmés pour chaque cas.
Qu’est-ce que l’apprentissage supervisé ?
L’apprentissage supervisé est une approche de machine learning dans laquelle un modèle apprend à partir d’exemples associant des entrées à des sorties cibles ou étiquettes connues. Le modèle utilise ces exemples étiquetés pour apprendre des correspondances qui peuvent servir à la prédiction, à la classification ou à la régression sur de nouvelles données.
En quoi l’apprentissage non supervisé diffère-t-il de l’apprentissage supervisé ?
Utilisez l’apprentissage supervisé lorsque des exemples entrée-sortie étiquetés existent ; utilisez l’apprentissage non supervisé lorsque l’objectif est de découvrir une structure sans étiquettes.
Qu’est-ce que l’apprentissage par renforcement ?
L’apprentissage par renforcement (RL) est un paradigme de machine learning dans lequel un agent apprend à agir dans un environnement en recevant des récompenses ou des pénalités pour ses actions. L’objectif est d’apprendre une politique qui maximise la récompense cumulée attendue au fil du temps.
Qu’est-ce que l’IA générative ?
L’IA générative (GenAI) désigne des systèmes d’IA qui créent de nouveaux contenus, comme du texte, des images, de l’audio, de la vidéo, du code ou d’autres médias, en réponse à des prompts ou à un contexte. Ces systèmes apprennent des motifs à partir de données d’entraînement et génèrent des sorties qui ressemblent aux types de contenus sur lesquels ils ont été entraînés, ou les transforment.
En quoi l’IA générative est-elle différente de l’intelligence artificielle ?
Utilisez intelligence artificielle pour le domaine général et la catégorie de systèmes ; utilisez IA générative lorsque le système crée de nouveaux contenus à partir de prompts ou d’un contexte.
Qu’est-ce qu’un grand modèle de langage ?
Un LLM, ou grand modèle de langage, est un modèle de langage comportant un grand nombre de paramètres, entraîné sur de vastes données textuelles ou multimodales pour comprendre et générer du langage.
Qu’est-ce qu’un modèle de diffusion ?
Un modèle de diffusion est un modèle génératif entraîné à inverser un processus qui ajoute progressivement du bruit aux données. En apprenant à débruiter depuis un bruit aléatoire vers une distribution de données cible, il peut générer des images, de l’audio, des représentations textuelles ou d’autres sorties réalistes.