Начальный
Что такое управление ИИ?
AI Governance — это система политик, процессов, ролей, мер контроля и надзора, используемая для управления разработкой и использованием ИИ на протяжении его жизненного цикла. Она направлена на ответственную, законную, безопасную, прозрачную и подотчётную практику ИИ внутри организации или юрисдикции.
Что такое AI management system?
AI Management System — это организационная платформа или структурированный набор процессов для управления AI-проектами и AI-системами на протяжении их жизненного цикла. Она координирует governance, потоки данных, разработку моделей, внедрение, мониторинг, compliance и accountability.
Что такое ISO/IEC 42001?
ISO/IEC 42001 — международный стандарт для создания, внедрения, поддержания и улучшения системы управления ИИ. Он помогает организациям управлять разработкой и использованием ИИ через политики, роли, управление рисками, надзор и постоянное совершенствование.
Что такое реестр инвентаризации ИИ-систем?
AI Inventory или System Register — это организованный каталог ИИ-систем и AI use cases внутри организации. Обычно он фиксирует владельцев, цели, источники данных, статус внедрения, риски, меры контроля и другую информацию, нужную для governance, аудита и accountability.
Средний
Чем AI risk assessment отличается от AI audit?
Используйте AI Risk Assessment для выявления и управления рисками; используйте AI Audit для оценки доказательств, controls или утверждений по заданным критериям.
Что такое AI assurance?
AI Assurance — это набор практик, которые дают обоснованную уверенность в том, что AI-система работает как задумано в своем операционном контексте.
Что такое shadow AI?
Shadow AI — это использование AI-инструментов или систем без формального одобрения, надзора или governance со стороны организации. Это создает риски утечки данных, комплаенса, безопасности и непоследовательного принятия решений и обычно управляется через политики, одобренные альтернативы, обучение и мониторинг.
Что такое AI use policy?
AI Use Policy — это внутренний governance-документ, который определяет, как AI-инструменты и системы могут использоваться внутри организации. Обычно он охватывает допустимое и запрещенное использование, роли и обязанности, обработку данных, требования к approval, мониторинг и escalation incidents.
Что такое vendor due diligence для AI?
AI vendor due diligence — это оценка сторонних AI-продуктов или провайдеров на предмет рисков безопасности, приватности, надежности, governance и комплаенса. Она помогает организациям решить, можно ли безопасно одобрить, закупать, мониторить или ограничивать конкретного vendor.
Что такое algorithmic accountability?
Algorithmic accountability — это ответственность за проектирование, работу, решения и последствия алгоритмических систем. Она включает прозрачность, прослеживаемость, надзор и механизмы объяснения, оспаривания или исправления вредных последствий.
Продвинутый
Что такое AI model card?
AI Model Card — это краткий документ, сопровождающий обученную модель или AI-сервис. Обычно он описывает intended use, ограничения, результаты оценки, релевантные риски, контекст данных или обучения и другую информацию, которая поддерживает прозрачность и ответственное внедрение.
Что такое прозрачность в AI governance?
Прозрачность — это степень, в которой назначение AI-системы, использование данных, работа, ограничения и выходные данные могут быть поняты или проверены релевантными заинтересованными сторонами.