Fortgeschritten
Wie unterscheidet sich Data Drift von Concept Drift?
Verwende Data Drift, wenn sich die Verteilung der Eingabedaten ändert; verwende Concept Drift, wenn sich die Beziehung zwischen Eingaben und Zielergebnis ändert.
Was ist Alignment in der KI-Sicherheit?
Alignment ist die Praxis, ein KI-System so zu entwerfen, zu trainieren und zu steuern, dass seine Ziele, Ausgaben und sein Verhalten mit menschlichen Absichten, Werten und zulässigen Nutzungsgrenzen übereinstimmen.
Was ist ein schwerwiegender KI-Vorfall?
Ein KI-Vorfall ist ein Ereignis oder eine Reihe von Ereignissen, bei denen Entwicklung, Einsatz, Nutzung oder Fehlfunktion eines KI-Systems Schaden verursacht oder verursachen könnte. Solcher Schaden kann Sicherheit, Diskriminierung, Datenschutz, rechtliche Compliance, kritische Infrastruktur, Eigentum, Gemeinschaften oder Umwelt betreffen.
Was ist Human-in-the-Loop-Kontrolle?
HITL, oder Human-in-the-Loop, ist ein Ansatz, bei dem Menschen weiterhin daran beteiligt sind, Ausgaben oder Entscheidungen von KI-Systemen zu gestalten, zu prüfen, zu genehmigen oder zu verbessern. Er wird genutzt, um maschinelle Effizienz mit menschlichem Urteilsvermögen zu verbinden, besonders bei risikoreicheren oder kontextsensitiven Aufgaben.
Was ist KI-Toxizität?
KI-Toxizität sind schädliche, beleidigende, falsche, voreingenommene oder anderweitig unangemessene Ausgaben, die von einem KI-System erzeugt oder verstärkt werden. Sie kann aus Trainingsdaten, Systemdesign, Prompt-Kontext, mangelndem Alignment oder unzureichenden Schutzmaßnahmen entstehen.
Warum ist Post-Market-Monitoring wichtig?
Ein Post-Market-Monitoring-System besteht aus Aktivitäten von Anbietern von KI-Systemen, um Erfahrungen aus Systemen zu sammeln und zu prüfen, die in Verkehr gebracht oder in Betrieb genommen wurden. Ziel ist es festzustellen, ob nach dem Einsatz Korrektur- oder Präventionsmaßnahmen erforderlich sind.
Experte
Was ist Anomalieerkennung im KI-Monitoring?
Anomalieerkennung ist der Prozess, Beobachtungen, Ereignisse oder Muster zu identifizieren, die deutlich vom erwarteten Verhalten abweichen. In KI und Datenanalyse wird sie genutzt, um Ausreißer zu markieren, die auf Fehler, Betrug, Sicherheitsvorfälle, Systemstörungen oder andere ungewöhnliche Bedingungen hinweisen können.
Was bedeutet Security by Design für KI-Systeme?
Security by Design ist ein Ansatz, bei dem Sicherheitsanforderungen und Schutzmaßnahmen von Beginn der Systementwicklung an integriert werden. Für KI-Systeme umfasst dies die Antizipation von Fehlanwendung, den Schutz von Daten und Modellen sowie die Einbettung von Zugriffskontrollen, Monitoring und Resilienz über den gesamten Lebenszyklus.