Средний
Чем data drift отличается от concept drift?
Используйте data drift, когда меняется распределение входных данных; используйте concept drift, когда меняется связь между inputs и целевым outcome.
Что такое alignment в AI safety?
Alignment — это практика проектирования, обучения и управления AI-системой так, чтобы ее цели, outputs и поведение оставались согласованными с человеческими намерениями, ценностями и acceptable use constraints.
Что такое serious AI incident?
AI Incident — это событие или серия событий, при которых разработка, deployment, использование или malfunction AI-системы причиняет или может причинить вред. Такой вред может касаться safety, discrimination, privacy, legal compliance, critical infrastructure, property, communities или environment.
Что такое human-in-the-loop control?
HITL, или human-in-the-loop, — это подход, при котором люди остаются вовлеченными в формирование, review, approval или улучшение outputs или decisions AI-системы. Он используется для сочетания machine efficiency с human judgment, особенно в higher-risk или context-sensitive tasks.
Что такое AI toxicity?
AI Toxicity — это harmful, offensive, false, biased или otherwise inappropriate output, созданный или усиленный AI-системой. Он может возникать из training data, system design, prompt context, misalignment или inadequate safeguards.
Почему post-market monitoring важен?
Post-market monitoring system состоит из действий провайдеров AI-систем по сбору и анализу опыта использования систем, размещенных на рынке или введенных в эксплуатацию. Его цель — определить, нужны ли corrective или preventive actions после deployment.
Продвинутый
Что такое anomaly detection в AI monitoring?
Anomaly detection — это процесс выявления observations, events или patterns, которые значительно отличаются от ожидаемого поведения. В AI и data analysis он используется для flagging outliers, которые могут указывать на errors, fraud, security incidents, system faults или другие unusual conditions.
Что такое security by design для AI-систем?
Security by design — это подход, при котором security requirements и safeguards интегрируются с самого начала разработки системы. Для AI-систем он включает anticipation of misuse, protection of data and models и embedding access controls, monitoring и resilience на протяжении всего lifecycle.