Der Nutzer möchte Risiko im Kontext von AI Safety & Risk verstehen und auf praktische Arbeit in KI-Governance oder Compliance anwenden.
Verwenden Sie Risiko für potenziell nachteilige Ergebnisse vor oder während einer Bewertung; verwenden Sie Schaden für die nachteilige Auswirkung, die eingetreten ist oder konkret beschrieben werden kann.
Risiko ist die Möglichkeit eines nachteiligen Ergebnisses; Schaden ist die nachteilige Auswirkung selbst. In der KI-Governance beschreibt Risiko, was passieren kann, wie wahrscheinlich es ist, wie schwerwiegend es sein könnte und welche Kontrollen erforderlich sind. Schaden beschreibt tatsächliche oder konkret beschriebene Beeinträchtigung von Menschen, Rechten, Sicherheit, Eigentum, Organisationen oder Gesellschaft. Risikobewertung ist vorausschauend und präventiv; Schadensanalyse wird genutzt, um Auswirkungen, Verantwortlichkeit, Abhilfe und Lernerfahrungen nach oder im Umfeld eines Vorfalls zu verstehen.
Risiko ist das Warnschild; Schaden ist die Verletzung oder der Verlust, vor dem das Warnschild warnt. Ein Einstellungsmodell kann ein Risiko diskriminierender Rangfolgen tragen, bevor jemand betroffen ist. Wenn Bewerber tatsächlich unfair abgelehnt werden, hat die Organisation es mit Schaden zu tun. Gute Governance versucht, Risiko zu reduzieren, bevor es zu Schaden wird, und angemessen zu reagieren, wenn Schaden eintritt.
Analogie
Risiko ist Wahrscheinlichkeit und Schwere eines Brückenversagens; Schaden ist der Einsturz, die Verletzung, die Störung oder der Kostenaufwand, falls die Brücke versagt.
Die Unterscheidung ist wichtig, weil rechtliche, technische und Governance-Arbeit in unterschiedlichen Phasen stattfinden. Risikosprache unterstützt Design Reviews, Beschaffungsprüfungen, Folgenabschätzungen, Safety Cases, Kontrollauswahl und Einsatzfreigaben. Schadenssprache unterstützt Beschwerden, Vorfallsreaktion, Nutzerabhilfe, Ursachenanalyse, Berichterstattung, Entschädigung und Durchsetzung. Wenn Teams beides vermischen, können sie entweder hypothetische Bedenken als bewiesenen Schaden überzeichnen oder realen Schaden als nur theoretisches Risiko herunterspielen. Klare Begriffe verbessern Audit Trails, Berichterstattung an Leitungsgremien, regulatorische Analyse und Anbieterrechenschaft.
Dringlichkeit
Teams sollten Risiko- und Schadenssprache in KI-Inventaren, Risikoregistern, Vorfallsprotokollen und Sicherheitsnachweisen trennen.
Ein praktischer KI-Risikoeintrag sollte Gefahr oder Fehlermodus, betroffene Parteien, potenzielle Schäden, Wahrscheinlichkeit, Schweregrad, Erkennbarkeit, bestehende Kontrollen, Restrisiko und rechenschaftspflichtigen Verantwortlichen identifizieren. Ein Schadenseintrag sollte erfassen, was geschehen ist, wer oder was betroffen war, welche Nachweise vorliegen, wie schwer die Auswirkung war, welche Ursachen bestanden, welche Minderung, Abhilfe, Benachrichtigungen und Lernerfahrungen folgen. Risikobewertung sollte vor dem Einsatz und bei wesentlichen Änderungen stattfinden. Schadensanalyse sollte erfolgen, wenn Fehler, Beschwerden, Vorfälle, Beinaheereignisse oder Monitoring-Signale zeigen, dass nachteilige Auswirkungen eingetreten sein könnten.
Der häufigste Fehler besteht darin, vage Risiken wie „KI-Bias“ aufzuschreiben, ohne den konkreten Schaden, die betroffene Gruppe, den Entscheidungspunkt und die Kontrolle zu identifizieren. Ein weiterer Fehler ist, Schaden nur als körperliche Verletzung zu behandeln. In KI-Systemen kann Schaden Diskriminierung, Zugangsverweigerung, Eingriff in die Privatsphäre, wirtschaftlichen Verlust, Reputationsschaden, psychische Belastung, Sicherheitskompromittierung oder Verlust von Autonomie umfassen. Teams scheitern auch dann, wenn Risikoregister und Vorfallsprotokolle getrennt bleiben, sodass schwer nachvollziehbar ist, ob vorhergesagte Risiken zu realen Schäden wurden.
Fehler 1: „Halluzinationsrisiko“ zu erfassen, ohne zu erklären, ob der mögliche Schaden ein Rechtsfehler, medizinische Fehlinformation, finanzieller Verlust oder Nutzertäuschung ist.
Fehler 2: Ein dokumentiertes Datenschutzleck nur als Risiko zu bezeichnen, nachdem betroffene Nutzer bereits exponiert wurden.
Diese Seite sollte auf risk, harm, ai-risk-assessment, safety-case und ai-safety verlinken. Der stärkste Vergleich ist risk-vs-harm, weil er sauberere KI-Governance-Dokumentation unterstützt. Außerdem sollte sie mit safety-case-vs-ai-risk-assessment verbunden werden, wo Teams den Unterschied zwischen dem Identifizieren möglicher Schäden und dem Aufbau eines nachweisgestützten Sicherheitsarguments verstehen müssen. Verwandte Fragen umfassen what-is-ai-safety, what-is-a-safety-case-for-ai und what-is-model-drift.