Параллельное сравнение Biometric Categorisation System и Emotion Recognition System. Разбирает, чем отнесение людей к категориям с использованием биометрических данных отличается от вывода эмоций или намерений.
Краткий вердикт: Используйте Biometric Categorisation System для назначения биометрических категорий; используйте Emotion Recognition System для систем, предназначенных для идентификации или вывода эмоций либо намерений.
Biometric Categorisation System defines AI system that assigns natural persons to specific categories on the basis of biometric data.
Контекст: Наиболее уместна, когда AI-система сортирует людей по категориям на основе биометрических данных.
Emotion Recognition System defines AI system intended to identify or infer the emotions or intentions of natural persons, often from biometric data.
Контекст: Наиболее уместна, когда AI-система заявляет, что выводит эмоциональное состояние, намерение или affective signals.
| Аспект | Biometric Categorisation System | Emotion Recognition System |
|---|---|---|
| Категория данных | Система использует биометрические данные, чтобы относить людей к категориям. | Система часто использует биометрические данные для идентификации или вывода эмоций либо намерений. |
| Правовой эффект | Правовой анализ фокусируется на биометрической категоризации, цели категории, исключениях и допустимых условиях использования. | Правовой анализ фокусируется на чувствительности вывода эмоций или намерений и его влиянии на privacy, автономию и fairness. |
| Риск идентифицируемости | Риск возникает потому, что биометрические данные относятся к физическим лицам, а назначение категории может влиять на обращение с ними. | Риск возникает потому, что выводимые эмоции или намерения могут использоваться для оценки или влияния на человека. |
| Контроли | Контроли должны охватывать lawful basis, data minimization, обоснование категории, accuracy, доступ и хранение. | Контроли должны охватывать purpose limitation, validation testing, human review, transparency, fairness и ограничения в чувствительных контекстах. |
| Распространённая ошибка | Считать любую биометрическую обработку категоризацией без проверки, является ли назначение категории целью системы. | Считать emotion inference обычной аналитикой без учёта повышенных последствий для privacy и autonomy. |
На практике самый важный вопрос — не только какие данные собраны, а какой вывод сделан о человеке. Категоризация человека и вывод его эмоций создают разные governance-риски.
Смешивать biometric categorisation с biometric identification.
Считать emotion inference низкорисковой функцией, потому что она представлена как аналитика.
Игнорировать, необходимы ли биометрические данные для заявленной цели.
Не документировать ограничения accuracy и fairness.
Используйте Biometric Categorisation System, когда AI-система относит физических лиц к категориям на основе биометрических данных. Этот термин не равен biometric identification или verification и должен быть связан с целью категоризации.
Они могут пересекаться, когда используются биометрические данные, но это не одно и то же. Emotion recognition фокусируется на эмоциях или намерениях, а biometric categorisation — на отнесении людей к категориям.
Они включают выводы о физических лицах и могут влиять на privacy, autonomy, fairness и права. Поэтому data governance и purpose limitation особенно важны.
Проверяйте цель, legal basis, data minimization, validity категории или вывода, transparency, human review, retention, access control и impact для затронутых лиц.
No recently viewed comparisons yet.