Anfänger
Was ist KI-Sicherheit?
KI-Sicherheit ist das interdisziplinäre Feld und die Gesamtheit von Praktiken, die darauf ausgerichtet sind, Schäden durch KI-Systeme zu verhindern. Sie umfasst Zuverlässigkeit, Missbrauchsprävention, Minderung von Bias und Fehlern, Ausrichtung an menschlichen Werten sowie die Analyse kurz- und langfristiger Risiken.
Wie unterscheidet sich Risiko von Schaden?
Verwenden Sie Risiko für potenziell nachteilige Ergebnisse vor oder während einer Bewertung; verwenden Sie Schaden für die nachteilige Auswirkung, die eingetreten ist oder konkret beschrieben werden kann.
Was ist ein Safety Case für KI?
Ein KI-Safety-Case ist ein dokumentiertes und durch Nachweise gestütztes Argument, dass ein KI-System für eine definierte Nutzung und einen definierten Betriebskontext hinreichend sicher ist. Er ist besonders relevant für risikoreichere Sektoren, in denen Assurance ausdrücklich, überprüfbar und über die Zeit aufrechterhalten werden muss.
Was ist Model Drift?
Model Drift ist die Verschlechterung oder Veränderung der Modellleistung im Zeitverlauf, wenn reale Daten, Nutzerverhalten oder Betriebsbedingungen von den Daten abweichen, die beim Training oder bei der Evaluation verwendet wurden. Drift zu erkennen ist wichtig, um zu entscheiden, wann ein Modell neu trainiert, neu kalibriert oder ersetzt werden muss.
Fortgeschritten
Wie unterscheidet sich Data Drift von Concept Drift?
Verwende Data Drift, wenn sich die Verteilung der Eingabedaten ändert; verwende Concept Drift, wenn sich die Beziehung zwischen Eingaben und Zielergebnis ändert.
Was ist Alignment in der KI-Sicherheit?
Alignment ist die Praxis, ein KI-System so zu entwerfen, zu trainieren und zu steuern, dass seine Ziele, Ausgaben und sein Verhalten mit menschlichen Absichten, Werten und zulässigen Nutzungsgrenzen übereinstimmen.
Was ist ein schwerwiegender KI-Vorfall?
Ein KI-Vorfall ist ein Ereignis oder eine Reihe von Ereignissen, bei denen Entwicklung, Einsatz, Nutzung oder Fehlfunktion eines KI-Systems Schaden verursacht oder verursachen könnte. Solcher Schaden kann Sicherheit, Diskriminierung, Datenschutz, rechtliche Compliance, kritische Infrastruktur, Eigentum, Gemeinschaften oder Umwelt betreffen.
Was ist Human-in-the-Loop-Kontrolle?
HITL, oder Human-in-the-Loop, ist ein Ansatz, bei dem Menschen weiterhin daran beteiligt sind, Ausgaben oder Entscheidungen von KI-Systemen zu gestalten, zu prüfen, zu genehmigen oder zu verbessern. Er wird genutzt, um maschinelle Effizienz mit menschlichem Urteilsvermögen zu verbinden, besonders bei risikoreicheren oder kontextsensitiven Aufgaben.
Was ist KI-Toxizität?
KI-Toxizität sind schädliche, beleidigende, falsche, voreingenommene oder anderweitig unangemessene Ausgaben, die von einem KI-System erzeugt oder verstärkt werden. Sie kann aus Trainingsdaten, Systemdesign, Prompt-Kontext, mangelndem Alignment oder unzureichenden Schutzmaßnahmen entstehen.
Warum ist Post-Market-Monitoring wichtig?
Ein Post-Market-Monitoring-System besteht aus Aktivitäten von Anbietern von KI-Systemen, um Erfahrungen aus Systemen zu sammeln und zu prüfen, die in Verkehr gebracht oder in Betrieb genommen wurden. Ziel ist es festzustellen, ob nach dem Einsatz Korrektur- oder Präventionsmaßnahmen erforderlich sind.
Experte
Was ist Anomalieerkennung im KI-Monitoring?
Anomalieerkennung ist der Prozess, Beobachtungen, Ereignisse oder Muster zu identifizieren, die deutlich vom erwarteten Verhalten abweichen. In KI und Datenanalyse wird sie genutzt, um Ausreißer zu markieren, die auf Fehler, Betrug, Sicherheitsvorfälle, Systemstörungen oder andere ungewöhnliche Bedingungen hinweisen können.
Was bedeutet Security by Design für KI-Systeme?
Security by Design ist ein Ansatz, bei dem Sicherheitsanforderungen und Schutzmaßnahmen von Beginn der Systementwicklung an integriert werden. Für KI-Systeme umfasst dies die Antizipation von Fehlanwendung, den Schutz von Daten und Modellen sowie die Einbettung von Zugriffskontrollen, Monitoring und Resilienz über den gesamten Lebenszyklus.