Anfänger
Was ist KI-Governance?
KI-Governance ist der Rahmen aus Richtlinien, Prozessen, Rollen, Kontrollen und Aufsicht, mit dem Entwicklung und Nutzung von KI über ihren Lebenszyklus gesteuert werden. Sie soll verantwortungsvolle, rechtmäßige, sichere, transparente und rechenschaftspflichtige KI-Praxis innerhalb einer Organisation oder Rechtsordnung sicherstellen.
Was ist ein KI-Managementsystem?
Ein KI-Managementsystem ist eine organisatorische Plattform oder ein strukturierter Satz von Prozessen zur Verwaltung von KI-Projekten und KI-Systemen über ihren gesamten Lebenszyklus. Es koordiniert Governance, Datenflüsse, Modellentwicklung, Einsatz, Monitoring, Compliance und Verantwortlichkeit.
Was ist ISO/IEC 42001?
ISO/IEC 42001 ist ein internationaler Standard für die Einrichtung, Umsetzung, Aufrechterhaltung und Verbesserung eines KI-Managementsystems. Er hilft Organisationen, KI-Entwicklung und KI-Nutzung durch Richtlinien, Rollen, Risikomanagement, Aufsicht und kontinuierliche Verbesserung zu steuern.
Was ist ein KI-Inventar oder Systemregister?
Ein KI-Inventar oder Systemregister ist ein geordneter Katalog von KI-Systemen und Anwendungsfällen innerhalb einer Organisation. Es erfasst typischerweise Verantwortliche, Zwecke, Datenquellen, Einsatzstatus, Risiken, Kontrollen und weitere Informationen, die für Governance, Audit und Rechenschaftspflicht benötigt werden.
Fortgeschritten
Wie unterscheidet sich eine KI-Risikobewertung von einem KI-Audit?
Verwende KI-Risikobewertung, um Risiken zu identifizieren und zu steuern; verwende KI-Audit, um Nachweise, Kontrollen oder Aussagen anhand definierter Kriterien zu bewerten.
Was ist KI-Assurance?
KI-Assurance umfasst die Praktiken, die begründetes Vertrauen schaffen, dass ein KI-System in seinem operativen Kontext wie vorgesehen funktioniert.
Was ist Shadow AI?
Shadow AI ist die Nutzung von KI-Tools oder -Systemen ohne formale Genehmigung, Aufsicht oder Governance durch eine Organisation. Sie schafft Risiken in Bezug auf Datenabfluss, Compliance, Sicherheit und uneinheitliche Entscheidungsfindung und wird typischerweise durch Richtlinien, genehmigte Alternativen, Schulungen und Monitoring gesteuert.
Was ist eine KI-Nutzungsrichtlinie?
Eine KI-Nutzungsrichtlinie ist ein internes Governance-Dokument, das festlegt, wie KI-Tools und -Systeme innerhalb einer Organisation verwendet werden dürfen. Sie deckt typischerweise zulässige und verbotene Nutzungen, Rollen und Verantwortlichkeiten, Datenhandhabung, Genehmigungsanforderungen, Monitoring und Eskalation von Vorfällen ab.
Was ist Vendor Due Diligence für KI?
KI-Vendor-Due-Diligence ist die Bewertung von Drittanbieter-KI-Produkten oder -Anbietern im Hinblick auf Sicherheits-, Datenschutz-, Zuverlässigkeits-, Governance- und Compliance-Risiken. Sie hilft Organisationen zu entscheiden, ob und wie ein Anbieter sicher genehmigt, beschafft, überwacht oder eingeschränkt werden kann.
Was ist algorithmische Verantwortlichkeit?
Algorithmische Verantwortlichkeit bedeutet Verantwortung für Design, Betrieb, Entscheidungen und Auswirkungen algorithmischer Systeme. Sie umfasst Transparenz, Nachvollziehbarkeit, Aufsicht und Mechanismen, um schädliche Ergebnisse zu erklären, anzufechten oder zu beheben.
Experte
Was ist eine KI-Model Card?
Eine KI-Model Card ist ein kompaktes Dokumentationsartefakt, das ein trainiertes Modell oder einen KI-Dienst begleitet. Sie beschreibt typischerweise Zweckbestimmung, Grenzen, Bewertungsergebnisse, relevante Risiken, Daten- oder Trainingskontext und weitere Informationen, die Transparenz und verantwortungsvollen Einsatz unterstützen.
Was bedeutet Transparenz in der KI-Governance?
Transparenz ist der Grad, in dem Zweck, Datennutzung, Funktionsweise, Grenzen und Ausgaben eines KI-Systems von relevanten Stakeholdern verstanden oder geprüft werden können.