Anfänger
Was ist KI-Sicherheit?
KI-Sicherheit ist das interdisziplinäre Feld und die Gesamtheit von Praktiken, die darauf ausgerichtet sind, Schäden durch KI-Systeme zu verhindern. Sie umfasst Zuverlässigkeit, Missbrauchsprävention, Minderung von Bias und Fehlern, Ausrichtung an menschlichen Werten sowie die Analyse kurz- und langfristiger Risiken.
Wie unterscheidet sich Risiko von Schaden?
Verwenden Sie Risiko für potenziell nachteilige Ergebnisse vor oder während einer Bewertung; verwenden Sie Schaden für die nachteilige Auswirkung, die eingetreten ist oder konkret beschrieben werden kann.
Was ist ein Safety Case für KI?
Ein KI-Safety-Case ist ein dokumentiertes und durch Nachweise gestütztes Argument, dass ein KI-System für eine definierte Nutzung und einen definierten Betriebskontext hinreichend sicher ist. Er ist besonders relevant für risikoreichere Sektoren, in denen Assurance ausdrücklich, überprüfbar und über die Zeit aufrechterhalten werden muss.
Was ist Model Drift?
Model Drift ist die Verschlechterung oder Veränderung der Modellleistung im Zeitverlauf, wenn reale Daten, Nutzerverhalten oder Betriebsbedingungen von den Daten abweichen, die beim Training oder bei der Evaluation verwendet wurden. Drift zu erkennen ist wichtig, um zu entscheiden, wann ein Modell neu trainiert, neu kalibriert oder ersetzt werden muss.