Пользователь хочет понять Risk в контексте AI Safety & Risk и применить это к практической работе по AI governance или compliance.
Используйте «риск» для потенциальных неблагоприятных исходов до или во время оценки; используйте «вред» для неблагоприятного эффекта, который уже произошёл или может быть конкретно описан.
Риск — это возможность неблагоприятного исхода; вред — это сам неблагоприятный эффект. В AI governance риск описывает, что может произойти, насколько это вероятно, насколько серьёзными могут быть последствия и какие меры контроля нужны. Вред описывает фактический или конкретно описанный ущерб людям, правам, безопасности, имуществу, организациям или обществу. Risk assessment является перспективной и превентивной процедурой; harm analysis используется для понимания воздействия, ответственности, remediation и уроков после инцидента или вокруг него.
Риск — это предупреждающий знак; вред — это травма или потеря, о которой предупреждает знак. Модель для найма может нести риск дискриминационного ранжирования ещё до того, как кто-то пострадал. Если кандидатов действительно несправедливо отклоняют, организация уже имеет дело с вредом. Хорошее governance пытается снизить риск до того, как он превратится во вред, и корректно реагировать, когда вред всё-таки возникает.
Аналогия
Риск — это вероятность и тяжесть отказа моста; вред — это обрушение, травмы, сбои или расходы, если отказ произошёл.
Это различие важно, потому что юридическая, техническая и governance-работа происходят на разных этапах. Язык риска поддерживает design reviews, procurement checks, impact assessments, safety cases, выбор мер контроля и deployment approvals. Язык вреда поддерживает complaints, incident response, user remedies, root-cause analysis, reporting, компенсацию и enforcement. Если команды смешивают эти понятия, они могут либо представить гипотетические опасения как доказанный ущерб, либо занизить реальный ущерб до уровня теоретического риска. Чёткая терминология улучшает audit trails, board reporting, regulatory analysis и vendor accountability.
Срочность
Команды должны разделять язык риска и вреда в AI inventories, risk registers, incident logs и safety evidence.
Практическая запись о риске AI должна определять hazard или failure mode, затронутые стороны, потенциальный вред, вероятность, severity, detectability, существующие controls, residual risk и ответственного владельца. Запись о вреде должна определять, что произошло, кто или что было затронуто, доказательства, severity воздействия, root causes, mitigation, remediation, notifications и lessons learned. Risk assessment должен проводиться до deployment и при существенных изменениях. Harm analysis должен проводиться при сбоях, жалобах, инцидентах, near misses или сигналах мониторинга, показывающих, что неблагоприятные эффекты могли произойти.
Самая распространённая ошибка — записывать расплывчатые риски вроде «AI bias» без указания конкретного вреда, затронутой группы, точки принятия решения и меры контроля. Другая ошибка — считать вредом только физическую травму. В AI-системах вред может включать дискриминацию, отказ в доступе, вторжение в приватность, экономические потери, репутационный ущерб, психологический стресс, компрометацию безопасности или потерю автономии. Команды также терпят неудачу, когда risk registers и incident logs ведутся отдельно, из-за чего сложно понять, превратились ли предсказанные риски в реальные harms.
Ошибка 1: Записать «риск галлюцинации», не объяснив, является ли возможным вредом юридическая ошибка, медицинская дезинформация, финансовая потеря или введение пользователя в заблуждение.
Ошибка 2: Называть задокументированную утечку приватных данных только риском после того, как затронутые пользователи уже были раскрыты.
Эта страница должна ссылаться на risk, harm, ai-risk-assessment, safety-case и ai-safety. Самое сильное сравнение — risk-vs-harm, потому что оно поддерживает более чистую документацию AI governance. Она также должна быть связана с safety-case-vs-ai-risk-assessment, когда командам нужно понять различие между выявлением возможного вреда и построением evidence-backed safety argument. Связанные вопросы включают what-is-ai-safety, what-is-a-safety-case-for-ai и what-is-model-drift.