Débutant
Qu’est-ce que l’AI Act de l’UE ?
L’AI Act de l’UE est un règlement de l’Union européenne qui établit un cadre fondé sur les risques pour les systèmes d’IA et, dans certains cas, les modèles d’IA à usage général. Il définit des catégories d’usage de l’IA et attribue des obligations de sécurité, de transparence, de gouvernance et de conformité selon le niveau de risque.
Qui est fournisseur au sens de l’AI Act de l’UE ?
Un fournisseur est une personne, une organisation, une autorité publique, une agence ou un autre organisme qui développe un système d’IA ou un modèle d’IA à usage général, ou le fait développer, et le met sur le marché ou le met en service sous son propre nom ou sa propre marque.
Quelle différence entre un fournisseur et un déployeur ?
Utilisez fournisseur pour l’acteur qui développe, met sur le marché ou met en service un système d’IA ou un modèle GPAI sous son nom ; utilisez déployeur pour l’acteur qui utilise un système d’IA sous son autorité.
Qu’est-ce que l’évaluation de la conformité d’un système d’IA ?
L’évaluation de la conformité est le processus consistant à déterminer si un système, un produit ou un processus satisfait à des exigences juridiques ou techniques définies.
Qu’est-ce que la sécurité des LLM ?
Un LLM, ou grand modèle de langage, est un modèle de langage doté d’un grand nombre de paramètres, entraîné sur de vastes données textuelles ou multimodales pour comprendre et générer du langage.
Qu’est-ce qu’une injection de prompt ?
L’injection de prompt est une technique adversariale qui manipule un modèle de langage en plaçant des instructions malveillantes ou non prévues dans une entrée utilisateur, des documents, des pages web ou d’autres contenus traités par le modèle.
Qu’est-ce qu’un jailbreak dans un système LLM ?
L’injection de prompt ou le jailbreak désigne une entrée adversariale destinée à contourner les instructions, les politiques de sécurité ou les contrôles opérationnels d’un modèle. Les mesures d’atténuation incluent le filtrage des entrées, l’isolation du retrieval, l’accès aux outils selon le moindre privilège, l’application de politiques et des garde-fous en couches.
En quoi le RAG diffère-t-il du fine-tuning ?
Utilisez le RAG lorsque le modèle a besoin d’informations actuelles, fondées sur des sources ; utilisez le fine-tuning lorsque le modèle doit apprendre un comportement spécialisé, une performance de tâche, une adaptation de domaine ou un style à partir de données.
Qu’est-ce que la gouvernance de l’IA ?
La gouvernance de l’IA est le cadre de politiques, processus, rôles, contrôles et mécanismes de supervision utilisés pour piloter le développement et l’usage de l’IA sur l’ensemble de son cycle de vie. Elle vise à garantir des pratiques IA responsables, licites, sûres, transparentes et redevables au sein d’une organisation ou d’une juridiction.
Qu’est-ce qu’un système de management de l’IA ?
Un système de management de l’IA est une plateforme organisationnelle ou un ensemble structuré de processus permettant de gérer les projets et systèmes d’IA sur tout leur cycle de vie. Il coordonne la gouvernance, les flux de données, le développement des modèles, le déploiement, la surveillance, la compliance et les activités de responsabilité.
Qu’est-ce qu’ISO/IEC 42001 ?
ISO/IEC 42001 est une norme internationale pour établir, mettre en œuvre, maintenir et améliorer un système de management de l’IA. Elle aide les organisations à gouverner le développement et l’utilisation de l’IA au moyen de politiques, rôles, gestion des risques, supervision et amélioration continue.
Qu’est-ce qu’un registre d’inventaire des systèmes d’IA ?
Un inventaire IA ou registre des systèmes est un catalogue organisé des systèmes et cas d’usage d’IA au sein d’une organisation. Il consigne généralement les responsables, finalités, sources de données, statut de déploiement, risques, contrôles et autres informations nécessaires à la gouvernance, à l’audit et à l’accountability.
Qu’est-ce qu’une donnée personnelle en IA ?
Une donnée personnelle est une information se rapportant à une personne physique identifiée ou identifiable au sens du droit de la protection des données. Dans les contextes de l’Union européenne, sa signification est liée à l’article 4(1) du règlement (UE) 2016/679 et à son interprétation juridique.
Qu’est-ce qu’une donnée de catégorie particulière en IA ?
Les catégories particulières de données personnelles sont des types très sensibles de données personnelles identifiés par le droit européen de la protection des données.
Les données biométriques sont-elles des données personnelles ?
Les données biométriques sont des données personnelles produites par un traitement technique spécifique des caractéristiques physiques, physiologiques ou comportementales d’une personne. Exemples : images faciales, empreintes digitales, schémas vocaux, démarche et autres identifiants pouvant permettre la reconnaissance ou l’identification.
Qu’est-ce que l’anonymisation dans la gouvernance des données d’IA ?
L’anonymisation et la désidentification sont des techniques utilisées pour réduire le risque que des personnes puissent être identifiées à partir d’un jeu de données. En pratique, une anonymisation irréversible peut être difficile, surtout lorsque les jeux de données peuvent être reliés à d’autres informations.
Qu’est-ce que la sécurité de l’IA ?
La sécurité de l’IA est le domaine interdisciplinaire et l’ensemble de pratiques visant à prévenir les dommages causés par les systèmes d’IA. Elle inclut la fiabilité, la prévention des usages abusifs, l’atténuation des biais et erreurs, l’alignement avec les valeurs humaines et l’analyse des risques à court et long terme.
En quoi le risque diffère-t-il du dommage ?
Utilisez le terme risque pour les résultats négatifs potentiels avant ou pendant l’évaluation ; utilisez le terme dommage pour l’effet négatif qui s’est produit ou qui peut être décrit concrètement.
Qu’est-ce qu’un safety case pour l’IA ?
Un safety case d’IA est un argument documenté, étayé par des preuves, selon lequel un système d’IA est suffisamment sûr pour un usage et un contexte d’exploitation définis. Il est particulièrement pertinent dans les secteurs à risque élevé où l’assurance doit être explicite, vérifiable et maintenue dans le temps.
Qu’est-ce que la dérive de modèle ?
La dérive de modèle est la dégradation ou l’évolution de la performance d’un modèle au fil du temps lorsque les données réelles, le comportement des utilisateurs ou les conditions d’exploitation s’écartent des données utilisées lors de l’entraînement ou de l’évaluation. Détecter cette dérive est important pour décider quand réentraîner, recalibrer ou remplacer un modèle.
Qu’est-ce que l’évaluation de modèle ?
L’évaluation est le processus qui consiste à mesurer la qualité, le comportement ou la performance d’un modèle, d’un système ou d’un changement par rapport à des critères définis. En apprentissage automatique, elle peut utiliser des données de validation et de test, tandis que l’évaluation des LLM peut aussi inclure la sécurité, la factualité, la robustesse et l’impact sur les utilisateurs.
Qu’est-ce qu’un benchmark en évaluation de l’IA ?
Un benchmark est un test, un jeu de données, une tâche ou une procédure d’évaluation standardisés utilisés pour mesurer et comparer les performances de systèmes d’IA.
Quelle est la différence entre précision et rappel ?
Utilisez la précision lorsque les faux positifs sont coûteux ; utilisez le rappel lorsque les positifs manqués sont coûteux.
Pourquoi l’accuracy peut-elle être trompeuse ?
L’accuracy est une métrique de classification égale à la proportion de prédictions correctes parmi toutes les prédictions effectuées. Elle est utile dans certains contextes d’évaluation, mais peut être trompeuse lorsque les classes sont déséquilibrées, où la précision, le rappel ou d’autres métriques peuvent mieux refléter la performance du modèle.
Qu’est-ce que l’IA agentique ?
L’IA agentique désigne des systèmes d’IA capables de poursuivre des objectifs en percevant le contexte, en prenant des décisions, en planifiant des étapes et en accomplissant des actions avec un certain degré d’autonomie.
Qu’est-ce qu’un agent d’IA ?
Un agent d’IA est une entité ou un système logiciel qui perçoit un environnement, interprète des entrées et entreprend des actions pour atteindre des objectifs.
Qu’est-ce qu’un workflow agentique ?
Un workflow agentique est un processus dans lequel un agent d’IA planifie et exécute plusieurs étapes vers un objectif défini. Il peut inclure raisonnement, appel d’outils, interaction avec des systèmes externes, suivi et autocorrection lorsque les conditions changent.
Qu’est-ce qu’une boucle agentique ?
Une boucle agentique est le cycle répété par lequel un agent d’IA observe une situation, raisonne sur ce qu’il doit faire, agit et utilise le retour d’information pour continuer ou s’arrêter. La boucle se poursuit jusqu’à ce qu’un objectif soit atteint, qu’une condition d’échec survienne ou qu’une autre règle de terminaison soit satisfaite.
Qu’est-ce que l’IA biométrique ?
La technologie biométrique désigne des systèmes qui utilisent des données biométriques pour reconnaître, vérifier ou identifier l’identité d’une personne. Les exemples incluent la reconnaissance faciale, la lecture d’empreintes digitales, la reconnaissance de l’iris, la reconnaissance vocale et des outils connexes d’assurance d’identité.
Qu’est-ce qu’une donnée biométrique ?
Les données biométriques sont des données personnelles produites par un traitement technique spécifique des caractéristiques physiques, physiologiques ou comportementales d’une personne. Les exemples incluent les images faciales, empreintes digitales, motifs vocaux, démarche et autres identifiants pouvant soutenir la reconnaissance ou l’identification.
Qu’est-ce que l’identification biométrique ?
L’identification biométrique est la reconnaissance automatisée de l’identité d’une personne physique en comparant ses données biométriques à des données biométriques stockées dans une base de données. Il s’agit généralement d’un processus de correspondance un-à-plusieurs visant à établir qui est la personne.
En quoi la vérification biométrique diffère-t-elle de l’identification biométrique ?
Utilisez l’identification biométrique lorsque l’accent porte sur la reconnaissance automatisée de l’identité d’une personne physique en comparant ses données biométriques à une base de données ; utilisez la vérification biométrique lorsque l’accent porte sur la confirmation automatisée un-à-un de l’identité revendiquée par une personne.
Qu’est-ce que le machine learning ?
Le machine learning (ML), ou apprentissage automatique, est un sous-domaine de l’intelligence artificielle dans lequel des systèmes apprennent des motifs à partir de données ou d’expériences afin de produire des prédictions, classifications, recommandations ou décisions sans être explicitement programmés pour chaque cas.
Qu’est-ce que l’apprentissage supervisé ?
L’apprentissage supervisé est une approche de machine learning dans laquelle un modèle apprend à partir d’exemples associant des entrées à des sorties cibles ou étiquettes connues. Le modèle utilise ces exemples étiquetés pour apprendre des correspondances qui peuvent servir à la prédiction, à la classification ou à la régression sur de nouvelles données.
En quoi l’apprentissage non supervisé diffère-t-il de l’apprentissage supervisé ?
Utilisez l’apprentissage supervisé lorsque des exemples entrée-sortie étiquetés existent ; utilisez l’apprentissage non supervisé lorsque l’objectif est de découvrir une structure sans étiquettes.
Qu’est-ce que l’apprentissage par renforcement ?
L’apprentissage par renforcement (RL) est un paradigme de machine learning dans lequel un agent apprend à agir dans un environnement en recevant des récompenses ou des pénalités pour ses actions. L’objectif est d’apprendre une politique qui maximise la récompense cumulée attendue au fil du temps.
Qu’est-ce que l’IA générative ?
L’IA générative (GenAI) désigne des systèmes d’IA qui créent de nouveaux contenus, comme du texte, des images, de l’audio, de la vidéo, du code ou d’autres médias, en réponse à des prompts ou à un contexte. Ces systèmes apprennent des motifs à partir de données d’entraînement et génèrent des sorties qui ressemblent aux types de contenus sur lesquels ils ont été entraînés, ou les transforment.
En quoi l’IA générative est-elle différente de l’intelligence artificielle ?
Utilisez intelligence artificielle pour le domaine général et la catégorie de systèmes ; utilisez IA générative lorsque le système crée de nouveaux contenus à partir de prompts ou d’un contexte.
Qu’est-ce qu’un grand modèle de langage ?
Un LLM, ou grand modèle de langage, est un modèle de langage comportant un grand nombre de paramètres, entraîné sur de vastes données textuelles ou multimodales pour comprendre et générer du langage.
Qu’est-ce qu’un modèle de diffusion ?
Un modèle de diffusion est un modèle génératif entraîné à inverser un processus qui ajoute progressivement du bruit aux données. En apprenant à débruiter depuis un bruit aléatoire vers une distribution de données cible, il peut générer des images, de l’audio, des représentations textuelles ou d’autres sorties réalistes.
Intermédiaire
Quand un système d’IA est-il mis sur le marché ?
La mise sur le marché désigne la première mise à disposition d’un système d’IA ou d’un modèle d’IA à usage général sur le marché de l’UE. Ce terme est important, car certaines obligations réglementaires s’appliquent à ce moment ou avant celui-ci.
Quel est l’objectif prévu d’un système d’IA ?
L’objectif prévu est l’usage pour lequel un système d’IA est conçu, commercialisé ou déployé par son fournisseur. Il définit le contexte attendu, les utilisateurs, les fonctions, les sorties et les limites, et il est central pour la classification des risques, la conformité et la responsabilité.
Qu’est-ce qu’un mauvais usage raisonnablement prévisible ?
Un mauvais usage raisonnablement prévisible est l’utilisation d’un système d’IA en dehors de son objectif prévu, mais d’une manière qui peut tout de même être anticipée à partir du comportement humain ou de l’interaction avec d’autres systèmes.
Qu’est-ce que le marquage CE pour les systèmes d’IA ?
Le marquage CE est une marque de conformité indiquant qu’un produit ou un système d’IA respecte les exigences applicables du droit de l’Union européenne. Pour les systèmes d’IA, il signale que le fournisseur a évalué la conformité aux obligations légales applicables au système.
Qu’est-ce que l’IA à usage général ?
L’IA à usage général (GPAI) désigne des modèles ou systèmes d’IA pouvant être adaptés à un large éventail de tâches et d’applications. Les modèles de fondation en sont un exemple courant, par opposition aux systèmes d’IA étroits conçus pour une tâche spécifique.
Qu’est-ce que le risque systémique dans la GPAI ?
Le risque systémique est un risque associé aux capacités à fort impact des modèles d’IA à usage général, susceptibles de produire des effets significatifs sur les marchés, la société, la santé publique, la sûreté, la sécurité ou les droits fondamentaux.
Pourquoi le RAG peut-il créer des risques pour la vie privée et la sécurité ?
La génération augmentée par récupération (RAG) est une technique qui combine l’IA générative avec la récupération d’informations depuis des sources de données externes. Le modèle utilise des documents, passages ou enregistrements récupérés comme contexte d’ancrage pour produire des réponses plus actuelles, spécifiques et vérifiables.
Que sont les garde-fous dans un système LLM ?
Les garde-fous sont des contrôles techniques, procéduraux ou de politique conçus pour maintenir les systèmes d’IA dans des limites acceptables. Ils peuvent réduire des risques tels que les sorties nuisibles, les fuites de données, les accès non autorisés, les violations de politiques ou les comportements dangereux.
Qu’est-ce que l’ancrage dans l’IA générative ?
L’ancrage est le processus qui consiste à relier la sortie d’un modèle d’IA à des sources d’information fiables et vérifiables au moment de l’inférence. Dans l’IA générative, il contribue à améliorer la fiabilité factuelle en fournissant un contexte pertinent sans modifier les poids sous-jacents du modèle.
Qu’est-ce qu’une hallucination dans un système d’IA ?
Une hallucination est une sortie générée par l’IA qui semble plausible ou confiante, mais qui est fausse, non étayée, trompeuse ou fabriquée. Dans l’IA générative, les hallucinations peuvent inclure des faits incorrects, des sources inventées, de fausses citations ou un raisonnement qui n’est pas ancré dans des preuves fiables.
En quoi un prompt système diffère-t-il d’un prompt utilisateur ?
Utilisez le prompt système pour les instructions et contraintes durables de l’application ; utilisez le prompt utilisateur pour la demande immédiate de l’utilisateur, son contexte et le résultat souhaité.
Qu’est-ce que le red teaming pour les LLM ?
Le red teaming est un processus structuré de test adversarial utilisé pour identifier les faiblesses, les comportements dangereux ou les sorties nuisibles d’un système d’IA. Il consiste à sonder délibérément le système avec des entrées difficiles, malveillantes ou limites afin que les développeurs puissent évaluer et améliorer les protections.
En quoi l’évaluation des risques liés à l’IA diffère-t-elle d’un audit de l’IA ?
Utilisez l’évaluation des risques liés à l’IA pour identifier et gérer les risques ; utilisez l’audit de l’IA pour évaluer les preuves, les contrôles ou les déclarations au regard de critères définis.
Qu’est-ce que l’assurance de l’IA ?
L’assurance de l’IA désigne l’ensemble des pratiques qui fournissent une confiance justifiée dans le fait qu’un système d’IA fonctionne comme prévu dans son contexte opérationnel.
Qu’est-ce que le shadow AI ?
Le shadow AI désigne l’utilisation d’outils ou de systèmes d’IA sans approbation, supervision ou gouvernance formelle de la part d’une organisation. Il crée des risques liés aux fuites de données, à la conformité, à la sécurité et à l’incohérence des décisions, et se gère généralement par des politiques, des alternatives approuvées, la formation et la surveillance.
Qu’est-ce qu’une politique d’utilisation de l’IA ?
Une politique d’utilisation de l’IA est un document interne de gouvernance qui définit comment les outils et systèmes d’IA peuvent être utilisés au sein d’une organisation. Elle couvre généralement les usages acceptables et interdits, les rôles et responsabilités, le traitement des données, les exigences d’approbation, la surveillance et l’escalade des incidents.
Qu’est-ce que la diligence raisonnable des fournisseurs pour l’IA ?
La diligence raisonnable des fournisseurs d’IA est l’évaluation des produits ou fournisseurs d’IA tiers au regard des risques de sécurité, de confidentialité, de fiabilité, de gouvernance et de conformité. Elle aide les organisations à décider si, et comment, un fournisseur peut être approuvé, acheté, surveillé ou restreint en toute sécurité.
Qu’est-ce que la responsabilité algorithmique ?
La responsabilité algorithmique désigne la responsabilité liée à la conception, au fonctionnement, aux décisions et aux impacts des systèmes algorithmiques. Elle implique la transparence, la traçabilité, la supervision et des mécanismes permettant d’expliquer, de contester ou de réparer les résultats préjudiciables.
En quoi la pseudonymisation diffère-t-elle de l’anonymisation ?
Utilisez l’anonymisation ou la désidentification lorsque vous parlez de réduction ou de suppression de l’identifiabilité ; utilisez la pseudonymisation lorsque les données personnelles peuvent encore être attribuées à une personne à l’aide d’informations supplémentaires protégées.
Qu’est-ce que la confidentialité différentielle ?
Utilisez l’anonymisation des données lorsque vous modifiez des données pour réduire l’identifiabilité ; utilisez la confidentialité différentielle lorsque vous limitez les inférences individuelles à partir des sorties au moyen d’un cadre de protection de la vie privée.
Les données synthétiques peuvent-elles encore créer un risque pour la vie privée ?
Les données synthétiques sont des données générées artificiellement, conçues pour ressembler à certains motifs, structures ou propriétés statistiques de données réelles.
Qu’est-ce que la provenance des données ?
La provenance des données est l’historique enregistré des données, notamment leur origine, leur création, leurs transformations, leurs déplacements et leurs changements au fil du temps. Dans la gouvernance de l’IA, la provenance aide à vérifier la lignée des jeux de données, à évaluer leur fiabilité, à soutenir les audits et à comprendre comment du contenu numérique ou des entrées de modèle ont été produits.
Qu’est-ce que la résidence des données en IA ?
La résidence et la souveraineté des données concernent l’endroit où les données sont stockées, traitées et gouvernées, ainsi que les régimes juridiques qui s’y appliquent. Pour les usages d’IA réglementés, ces concepts influencent le choix des régions cloud, les transferts transfrontaliers, les contrôles contractuels et la conformité aux exigences sectorielles ou nationales.
Comment le RGPD et l’AI Act de l’UE se recoupent-ils ?
Utilisez le RGPD lorsque la question porte sur le traitement de données personnelles ; utilisez l’AI Act de l’UE lorsque la question porte sur la catégorie de risque du système d’IA, la sécurité, la transparence, la gouvernance ou les obligations de conformité.
En quoi la dérive des données diffère-t-elle de la dérive de concept ?
Utilisez la dérive des données lorsque la distribution des données d’entrée change ; utilisez la dérive de concept lorsque la relation entre les entrées et le résultat cible change.
Qu’est-ce que l’alignement dans la sécurité de l’IA ?
L’alignement est la pratique consistant à concevoir, entraîner et gouverner un système d’IA de manière à ce que ses objectifs, ses sorties et son comportement restent cohérents avec les intentions humaines, les valeurs et les contraintes d’usage acceptable.
Qu’est-ce qu’un incident grave d’IA ?
Un incident d’IA est un événement ou une série d’événements dans lesquels le développement, le déploiement, l’utilisation ou le dysfonctionnement d’un système d’IA cause ou pourrait causer un préjudice. Ce préjudice peut concerner la sécurité, la discrimination, la confidentialité, la conformité juridique, les infrastructures critiques, les biens, les communautés ou l’environnement.
Qu’est-ce que le contrôle humain dans la boucle ?
HITL, ou humain dans la boucle, est une approche dans laquelle les personnes restent impliquées dans l’orientation, la revue, l’approbation ou l’amélioration des sorties ou décisions d’un système d’IA. Elle est utilisée pour combiner l’efficacité de la machine avec le jugement humain, en particulier dans les tâches à risque plus élevé ou sensibles au contexte.
Qu’est-ce que la toxicité de l’IA ?
La toxicité de l’IA désigne les sorties nuisibles, offensantes, fausses, biaisées ou autrement inappropriées générées ou amplifiées par un système d’IA. Elle peut provenir des données d’entraînement, de la conception du système, du contexte du prompt, d’un mauvais alignement ou de protections insuffisantes.
Pourquoi le suivi après commercialisation est-il important ?
Un système de suivi après commercialisation comprend les activités des fournisseurs de systèmes d’IA visant à collecter et examiner l’expérience issue des systèmes mis sur le marché ou mis en service. Son objectif est d’identifier si une action corrective ou préventive est nécessaire après le déploiement.
Qu’est-ce qu’un score F1 ?
Le score F1 est la moyenne harmonique de la précision et du rappel, utilisée pour évaluer les performances de classification et d’extraction d’informations. Il va de 0 à 1, les valeurs plus élevées indiquant un meilleur équilibre entre les positifs correctement identifiés et les positifs manqués.
En quoi les faux positifs et les faux négatifs sont-ils différents ?
Utilisez faux positif pour un signalement positif incorrect ; utilisez faux négatif pour une absence incorrecte de détection d’une condition réellement positive.
Qu’est-ce qu’un seuil de classification ?
Un seuil de classification est une valeur limite choisie pour convertir le score ou la probabilité d’un modèle en prédiction de classe. Modifier le seuil peut changer l’équilibre entre faux positifs et faux négatifs, ce qui fait du choix du seuil une décision importante de gouvernance et de performance.
Qu’est-ce que les données de validation ?
Les données de validation sont des données utilisées pour évaluer un modèle pendant le développement et ajuster des choix tels que les hyperparamètres, les seuils ou les processus d’apprentissage. Elles doivent être distinctes des données d’entraînement et de test afin d’aider à détecter le sous-apprentissage, le surapprentissage et les problèmes de généralisation.
Qu’est-ce qu’un jeu de test ?
Un jeu de test est un jeu de données réservé utilisé pour fournir une évaluation indépendante d’un modèle entraîné ou d’un système d’IA. Il doit être séparé des données d’entraînement et de validation afin que les estimations de performance reflètent mieux le comportement sur des données inédites avant le déploiement ou la publication.
Qu’est-ce que la surveillance des modèles ?
La surveillance des modèles est l’observation continue des performances, entrées, sorties, dérives, erreurs, latence et santé opérationnelle d’un modèle déployé. Elle aide à détecter la dégradation, les mauvais usages, les biais, les problèmes de sécurité et les conditions nécessitant un réentraînement ou une intervention.
Qu’est-ce que l’orchestration de l’IA ?
L’orchestration de l’IA est la coordination et le routage des tâches d’IA, des flux de travail, des appels de modèles, des outils et des agents au sein d’un système. Elle aide à décomposer les processus complexes en étapes gérables et à les attribuer aux modèles, sous-agents ou composants d’automatisation appropriés.
Qu’est-ce que l’appel de fonctions dans les agents d’IA ?
L’appel de fonctions est une capacité qui permet à un modèle de langage d’invoquer des outils externes, des API ou des fonctions prédéfinies. Il étend le comportement du modèle au-delà de la génération de texte en permettant des actions structurées, la récupération d’informations, le calcul ou l’intégration système.
Qu’est-ce que le Model Context Protocol ?
Le Model Context Protocol (MCP) est un protocole permettant de connecter des modèles ou assistants d’IA à des outils, sources de données et services externes via une interface standardisée. Il aide à séparer le comportement du modèle de l’intégration des outils et peut améliorer la portabilité, la gouvernance et la gestion du contexte.
Qu’est-ce que l’espace d’action dans l’IA agentique ?
L’espace d’action est l’ensemble des outils, opérations, permissions ou mouvements disponibles pour un agent lorsqu’il exécute une tâche. Un espace d’action bien délimité doit être suffisant pour la tâche tout en limitant les capacités inutiles susceptibles d’augmenter les erreurs ou les risques de gouvernance.
Pourquoi les permissions sont-elles importantes pour les agents d’IA ?
Les permissions IAM, ou gestion des identités et des accès, sont des contrôles d’accès granulaires qui définissent quels principaux peuvent effectuer quelles actions sur quelles ressources. Elles sont généralement attribuées via des rôles à des utilisateurs, groupes, comptes de service ou applications afin d’appliquer l’accès selon le principe du moindre privilège.
Qu’est-ce qu’un agent routeur ?
Un agent routeur est un agent qui classe une demande utilisateur ou une tâche et la dirige vers l’agent spécialisé, l’outil ou le flux de travail le plus approprié. Il est utilisé dans les systèmes multi-agents pour coordonner les responsabilités et améliorer le traitement des tâches.
Qu’est-ce qu’un système d’identification biométrique à distance ?
Un système d’identification biométrique à distance est un système d’IA utilisé pour identifier des personnes physiques sans leur participation active, généralement à distance. Il compare les données biométriques d’une personne avec des données biométriques stockées dans une base de référence.
Qu’est-ce que l’identification biométrique à distance en temps réel ?
Un système d’identification biométrique à distance en temps réel est un système dans lequel la capture, la comparaison et l’identification des données biométriques se produisent sans délai significatif. La catégorie inclut l’identification instantanée ainsi que les courts délais destinés à empêcher le contournement.
Qu’est-ce qu’un système de reconnaissance des émotions ?
Un système de reconnaissance des émotions est un système d’IA destiné à identifier ou inférer les émotions ou intentions de personnes physiques, souvent à partir de données biométriques. Comme ces systèmes peuvent affecter la vie privée, l’autonomie et l’équité, ils font l’objet d’un examen renforcé dans les contextes de gouvernance et de réglementation.
Qu’est-ce que la catégorisation biométrique ?
Un système de catégorisation biométrique est un système d’IA qui attribue des personnes physiques à des catégories spécifiques sur la base de données biométriques.
Pourquoi la reconnaissance faciale est-elle à haut risque ?
La technologie de reconnaissance faciale (FRT) désigne les systèmes automatisés qui identifient, vérifient ou catégorisent des personnes en analysant les traits du visage à partir d’images numériques ou de vidéos. C’est une technologie biométrique qui peut soulever des préoccupations de confidentialité, d’exactitude et de discrimination selon son usage.
Que sont les deepfakes dans l’IA biométrique ?
Les deepfakes sont des images, sons ou vidéos générés ou manipulés par l’IA qui font paraître authentiques des personnes, objets, lieux, entités ou événements alors qu’ils ne le sont pas.
Qu’est-ce que l’apprentissage auto-supervisé ?
L’apprentissage auto-supervisé est une approche d’apprentissage automatique qui crée des signaux d’entraînement à partir des données non étiquetées elles-mêmes. Il convertit certains aspects d’un problème non supervisé en apprentissage supervisé en générant des étiquettes de substitution, ce qui le rend utile lorsque les données étiquetées sont rares mais que les données non étiquetées sont abondantes.
Qu’est-ce que l’apprentissage semi-supervisé ?
L’apprentissage semi-supervisé est une approche d’apprentissage automatique qui utilise à la fois des données étiquetées et non étiquetées pendant l’entraînement. Il est utile lorsque les exemples étiquetés sont coûteux ou limités, mais que des volumes plus importants de données non étiquetées peuvent aider à améliorer la représentation, la classification ou la prédiction.
Qu’est-ce que les données d’entraînement ?
Les données d’entraînement sont le jeu de données utilisé pour enseigner ou ajuster un modèle d’apprentissage automatique en modifiant ses paramètres apprenables. Leur qualité, quantité, diversité, étiquetage et provenance influencent fortement les performances, la fiabilité et la posture de conformité du modèle obtenu.
Qu’est-ce que le surapprentissage ?
Le surapprentissage se produit lorsqu’un modèle apprend les données d’entraînement de trop près, y compris le bruit ou les détails idiosyncratiques, et fonctionne mal sur de nouvelles données. Il est généralement indiqué par de très bonnes performances à l’entraînement, mais des performances plus faibles en validation ou en test.
Qu’est-ce que le sous-apprentissage ?
Le sous-apprentissage se produit lorsqu’un modèle est trop simple ou insuffisamment entraîné pour capturer des motifs significatifs dans les données. Un modèle sous-appris fonctionne mal à la fois sur les données d’entraînement et sur les nouvelles données, car il n’a pas appris les relations sous-jacentes nécessaires à la tâche.
Qu’est-ce qu’un arbre de décision ?
Un arbre de décision est un modèle d’apprentissage supervisé interprétable qui représente les règles de décision sous forme d’arbre. L’inférence suit un chemin depuis un nœud racine, à travers des conditions fondées sur les caractéristiques, jusqu’à une feuille qui fournit la classe ou la valeur prédite.
Qu’est-ce qu’un réseau antagoniste génératif ?
Un réseau antagoniste génératif (GAN) est une architecture d’apprentissage automatique dans laquelle un générateur et un discriminateur sont entraînés en opposition. Le générateur apprend à créer des échantillons réalistes, tandis que le discriminateur apprend à distinguer les échantillons générés des données réelles.
Qu’est-ce qu’un deepfake ?
Les deepfakes sont des images, sons ou vidéos générés ou manipulés par l’IA qui font paraître authentiques des personnes, objets, lieux, entités ou événements alors qu’ils ne le sont pas.
Qu’est-ce qu’un média synthétique ?
Un média synthétique est un contenu médiatique entièrement ou partiellement généré ou manipulé par l’IA. Il peut inclure du texte, des images, de l’audio, de la vidéo, des avatars, des voix et d’autres artefacts numériques.
Qu’est-ce que l’ingénierie de prompt ?
L’ingénierie de prompt est la pratique consistant à concevoir, tester et affiner les entrées des modèles d’IA générative afin qu’ils produisent plus fiablement les sorties souhaitées. Elle peut impliquer de préciser les rôles, contraintes, exemples, contexte, format et critères d’évaluation sans modifier les poids sous-jacents du modèle.
Qu’est-ce que la température dans l’IA générative ?
La température est un paramètre de génération du modèle qui contrôle le caractère aléatoire de la sortie d’un système d’IA. Des valeurs plus faibles tendent à produire des réponses plus ciblées et déterministes, tandis que des valeurs plus élevées augmentent la variété, la créativité et le risque de sorties moins cohérentes ou moins fiables.
Qu’est-ce que le filigranage de l’IA ?
Le filigranage de l’IA est l’intégration d’identifiants visibles ou cachés dans du contenu généré ou modifié par l’IA afin d’indiquer son origine, sa provenance ou son statut de génération. Les filigranes peuvent être ajoutés pendant ou après la génération et peuvent nécessiter des outils spécialisés pour être détectés.
Avancé
Qui supervise les systèmes d’IA dans l’UE ?
Le Bureau de l’IA est la fonction de la Commission européenne créée pour soutenir la mise en œuvre, le suivi et la supervision des systèmes d’IA, des modèles d’IA à usage général et de la gouvernance de l’IA dans le cadre européen de l’IA.
Qu’est-ce qu’un incident grave dans la gouvernance de l’IA ?
Un incident grave est un incident ou dysfonctionnement d’un système d’IA qui cause directement ou indirectement un préjudice sévère, comme un décès, une atteinte grave à la santé, une perturbation d’infrastructure critique, une violation des droits fondamentaux ou des dommages importants aux biens ou à l’environnement.
Qu’est-ce que l’empoisonnement des données dans les systèmes d’IA ?
L’empoisonnement des données est une attaque adversariale dans laquelle un acteur malveillant interfère avec les données ou le processus d’entraînement utilisés pour construire un modèle. En insérant, modifiant ou corrompant des exemples d’entraînement, l’attaquant cherche à manipuler le comportement du modèle, à dégrader ses performances ou à créer des défaillances ciblées.
Qu’est-ce que la modération du contenu pour les sorties d’IA ?
La modération du contenu et les filtres de sécurité sont des contrôles conçus pour détecter, bloquer, réduire ou escalader les contenus nuisibles, illégaux ou interdits par les politiques. Dans les systèmes d’IA, ils sont souvent combinés à des règles de politique, des classificateurs basés sur des modèles, une journalisation et une revue humaine pour les cas à plus haut risque.
Qu’est-ce qu’une fiche de modèle d’IA ?
Une fiche de modèle d’IA est un document de synthèse qui accompagne un modèle entraîné ou un service d’IA. Elle décrit généralement l’usage prévu, les limites, les résultats d’évaluation, les risques pertinents, le contexte des données ou de l’entraînement et d’autres informations utiles à la transparence et au déploiement responsable.
Qu’est-ce que la transparence dans la gouvernance de l’IA ?
La transparence est le degré auquel l’objectif, l’utilisation des données, le fonctionnement, les limites et les sorties d’un système d’IA peuvent être compris ou examinés par les parties prenantes concernées.
Qu’est-ce que le risque de confidentialité des données d’entraînement ?
Les données d’entraînement sont le jeu de données utilisé pour enseigner ou ajuster un modèle d’apprentissage automatique en modifiant ses paramètres apprenables. Leur qualité, quantité, diversité, étiquetage et provenance influencent fortement les performances, la fiabilité et la posture de conformité du modèle obtenu.
Qu’est-ce que le chiffrement dans la gouvernance des données d’IA ?
Le chiffrement des données est la transformation de données lisibles en une forme encodée, inintelligible sans clé autorisée ou processus de déchiffrement. Il est utilisé pour protéger les informations sensibles contre les accès non autorisés pendant le stockage, la transmission ou le traitement.
Qu’est-ce que la détection d’anomalies dans la surveillance de l’IA ?
La détection d’anomalies est le processus d’identification d’observations, d’événements ou de motifs qui diffèrent fortement du comportement attendu. En IA et en analyse de données, elle sert à signaler des valeurs aberrantes pouvant indiquer des erreurs, fraudes, incidents de sécurité, défaillances système ou autres conditions inhabituelles.
Qu’est-ce que la sécurité dès la conception pour les systèmes d’IA ?
La sécurité dès la conception est une approche dans laquelle les exigences et protections de sécurité sont intégrées dès le début du développement du système. Pour les systèmes d’IA, cela inclut l’anticipation des mauvais usages, la protection des données et des modèles, ainsi que l’intégration des contrôles d’accès, de la surveillance et de la résilience tout au long du cycle de vie.
Qu’est-ce que l’ancrage des réponses dans l’évaluation des LLM ?
L’ancrage des réponses est la propriété d’une sortie de modèle consistant à être soutenue par un matériau source précis ou par le contexte fourni. Dans l’IA générative, il aide à évaluer si une réponse est traçable à des preuves plutôt qu’à une génération non étayée du modèle.
Qu’est-ce que le taux d’affirmations non étayées ?
L’UCR, ou taux d’affirmations non étayées, est le pourcentage d’affirmations dans une réponse de modèle qui ne sont pas ancrées dans des preuves de soutien. Un UCR élevé indique que le système peut produire trop d’affirmations non étayées ou hallucinées.
Qu’est-ce qu’un système multi-agents ?
Les systèmes multi-agents sont des systèmes composés de plusieurs agents en interaction, capables de percevoir, décider, communiquer et agir dans un environnement. Ils sont utilisés pour modéliser la résolution distribuée de problèmes, la coordination, la négociation, la compétition et le comportement collectif.
Comment l’IA agentique doit-elle être gouvernée ?
La gouvernance de l’IA est le cadre de politiques, processus, rôles, contrôles et supervision utilisé pour orienter le développement et l’usage de l’IA tout au long de son cycle de vie. Elle vise à garantir une pratique de l’IA responsable, licite, sécurisée, transparente et responsable au sein d’une organisation ou d’une juridiction.
Qu’est-ce qu’un média synthétique ?
Un média synthétique est un contenu médiatique entièrement ou partiellement généré ou manipulé par l’IA. Il peut inclure du texte, des images, de l’audio, de la vidéo, des avatars, des voix et d’autres artefacts numériques.
Comment l’IA biométrique peut-elle nuire à l’équité ?
L’équité en IA désigne le principe selon lequel les systèmes d’IA doivent traiter les personnes et les groupes de manière équitable et éviter la discrimination injustifiée ou les biais préjudiciables. Elle implique d’identifier et d’atténuer les biais dans les données, les modèles, les contextes de déploiement et les processus décisionnels.
Qu’est-ce que le deep learning ?
Le deep learning est un sous-domaine de l’apprentissage automatique qui utilise des réseaux de neurones à plusieurs couches pour apprendre des représentations et des motifs à partir des données.
En quoi la classification et la régression diffèrent-elles ?
Utilisez la classification lorsque la cible est une catégorie ; utilisez la régression lorsque la cible est une valeur continue ou numérique.
Qu’est-ce que la provenance du contenu ?
La provenance et le filigranage désignent des signaux qui aident à identifier comment un contenu a été créé, d’où il vient ou s’il a été généré ou modifié par l’IA. Ces mécanismes soutiennent l’authenticité, la confiance, la modération, l’auditabilité et une gouvernance responsable du contenu.
Pourquoi le contenu généré a-t-il besoin d’une revue humaine ?
L’évaluation humaine est le processus par lequel des personnes jugent la qualité, la sécurité, l’utilité ou l’exactitude des sorties d’un modèle. Elle est particulièrement importante pour les tâches où il n’existe pas une seule bonne réponse, comme la qualité de traduction, le résumé, le dialogue ou la génération créative.