L’utilisateur veut comprendre la technologie biométrique dans le contexte de l’IA biométrique et l’appliquer à des travaux pratiques de gouvernance ou de compliance de l’IA.
La technologie biométrique désigne des systèmes qui utilisent des données biométriques pour reconnaître, vérifier ou identifier l’identité d’une personne. Les exemples incluent la reconnaissance faciale, la lecture d’empreintes digitales, la reconnaissance de l’iris, la reconnaissance vocale et des outils connexes d’assurance d’identité.
L’IA biométrique désigne des systèmes activés par l’IA qui traitent des données biométriques pour reconnaître, vérifier, identifier, catégoriser ou analyser des personnes à partir de caractéristiques physiques, physiologiques ou comportementales. Les exemples incluent la reconnaissance faciale, la comparaison d’empreintes digitales, la reconnaissance de l’iris, la reconnaissance vocale, l’analyse de la démarche et certains systèmes d’analyse des émotions ou de l’attention.
L’IA biométrique utilise comme entrées des signaux liés au corps ou au comportement. Le système peut comparer un visage à une pièce d’identité, faire correspondre une empreinte digitale à un modèle stocké, identifier une personne dans une foule ou inférer quelque chose à partir de la voix, du mouvement ou des traits du visage. Comme ces signaux sont liés aux personnes, les erreurs et les usages abusifs peuvent être graves.
Analogie
C’est comme transformer le visage, la voix ou les mouvements d’une personne en clé lisible par machine, mais cette clé peut être sensible, difficile à changer et imparfaite.
L’IA biométrique est importante parce qu’elle peut affecter la vie privée, l’égalité, l’accès aux services, la surveillance, les droits au travail, la police, le contrôle aux frontières et la confiance du public. Elle implique souvent des données personnelles et peut impliquer des catégories particulières de données personnelles au sens du droit européen de la protection des données. En vertu de l’AI Act de l’UE, certains usages biométriques sont interdits ou fortement restreints, tandis que d’autres peuvent être à haut risque.
Urgence
Les équipes doivent classifier les cas d’usage biométriques tôt, avant de collecter des données ou de déployer des systèmes de reconnaissance.
Une revue de gouvernance doit définir la finalité biométrique, la base juridique, les catégories de données, la durée de conservation, les bases de référence, les limites d’exactitude, la performance démographique, le processus de revue humaine, les notices aux utilisateurs, les contrôles de sécurité et le traitement des droits. Les équipes doivent distinguer la vérification de l’identification, et distinguer l’authentification de la surveillance ou de la catégorisation plus large. Les usages à risque plus élevé exigent des preuves solides, une revue de proportionnalité, une diligence raisonnable fournisseur, des procédures d’incident et une surveillance continue.
Une erreur fréquente consiste à traiter l’IA biométrique comme de simples analyses ordinaires. Une autre consiste à supposer qu’une image de visage est sans risque parce qu’elle est publiquement visible. Les équipes confondent aussi la vérification biométrique avec l’identification à distance, ignorent les écarts d’erreur démographiques ou ne vérifient pas si le système crée un modèle biométrique. Des contrôles de conservation faibles et des rôles fournisseurs mal définis peuvent créer des risques supplémentaires de confidentialité et d’imputabilité.
Utiliser des images publiques sans base juridique claire
Confondre la vérification 1:1 avec l’identification 1:n
Ignorer les taux de fausses correspondances et de faux non-appariements
Conserver les modèles biométriques plus longtemps que nécessaire
Cette réponse doit renvoyer à la technologie biométrique, aux données biométriques, à l’identification biométrique, aux données personnelles, aux catégories particulières de données personnelles, à la reconnaissance faciale, à l’identification biométrique à distance, aux systèmes à haut risque de l’AI Act et aux pratiques d’IA interdites.