Anfänger
Was ist der EU AI Act?
Der EU AI Act ist eine Verordnung der Europäischen Union, die einen risikobasierten Rahmen für KI-Systeme und in bestimmten Fällen für KI-Modelle mit allgemeinem Verwendungszweck schafft. Er definiert Kategorien der KI-Nutzung und weist je nach Risikoniveau Pflichten zu Sicherheit, Transparenz, Governance und Compliance zu.
Wer ist ein Anbieter nach dem EU AI Act?
Ein Anbieter ist eine Person, Organisation, Behörde, Agentur oder sonstige Stelle, die ein KI-System oder ein KI-Modell mit allgemeinem Verwendungszweck entwickelt oder entwickeln lässt und es unter eigenem Namen oder eigener Marke auf den Markt bringt oder in Betrieb nimmt.
Wie unterscheidet sich ein Anbieter von einem Betreiber?
Verwenden Sie Anbieter für den Akteur, der ein KI-System oder GPAI-Modell unter eigenem Namen entwickelt, auf den Markt bringt oder in Betrieb nimmt; Betreiber ist der Akteur, der ein KI-System unter seiner Verantwortung nutzt.
Was ist eine Konformitätsbewertung für ein KI-System?
Eine Konformitätsbewertung ist das Verfahren zur Feststellung, ob ein System, Produkt oder Prozess festgelegte rechtliche oder technische Anforderungen erfüllt.
Was ist LLM-Sicherheit?
LLM-Sicherheit ist die Disziplin, Anwendungen mit großen Sprachmodellen vor Angriffen, Missbrauch, Datenabfluss, unsicheren Ausgaben und unbeabsichtigten Handlungen zu schützen.
Was ist Prompt Injection?
Prompt Injection ist eine adversariale Technik, bei der ein Sprachmodell durch bösartige oder unbeabsichtigte Anweisungen in Nutzereingaben, Dokumenten, Webseiten oder anderen verarbeiteten Inhalten manipuliert wird.
Was ist ein Jailbreak in einem LLM-System?
Prompt Injection oder Jailbreak bezeichnet adversariale Eingaben, die darauf abzielen, Anweisungen, Sicherheitsrichtlinien oder operative Kontrollen eines Modells zu umgehen. Gegenmaßnahmen umfassen Eingabefilterung, Retrieval-Isolation, Tool-Zugriff nach dem Least-Privilege-Prinzip, Richtliniendurchsetzung und mehrschichtige Guardrails.
Wie unterscheidet sich RAG von Fine-Tuning?
Verwenden Sie RAG, wenn das Modell aktuelle, quellenbasierte Informationen benötigt; verwenden Sie Fine-Tuning, wenn das Modell spezialisiertes Verhalten, Aufgabenleistung, Domänenanpassung oder einen aus Daten erlernten Stil benötigt.
Was ist KI-Governance?
KI-Governance ist der Rahmen aus Richtlinien, Prozessen, Rollen, Kontrollen und Aufsicht, mit dem Entwicklung und Nutzung von KI über ihren Lebenszyklus gesteuert werden. Sie soll verantwortungsvolle, rechtmäßige, sichere, transparente und rechenschaftspflichtige KI-Praxis innerhalb einer Organisation oder Rechtsordnung sicherstellen.
Was ist ein KI-Managementsystem?
Ein KI-Managementsystem ist eine organisatorische Plattform oder ein strukturierter Satz von Prozessen zur Verwaltung von KI-Projekten und KI-Systemen über ihren gesamten Lebenszyklus. Es koordiniert Governance, Datenflüsse, Modellentwicklung, Einsatz, Monitoring, Compliance und Verantwortlichkeit.
Was ist ISO/IEC 42001?
ISO/IEC 42001 ist ein internationaler Standard für die Einrichtung, Umsetzung, Aufrechterhaltung und Verbesserung eines KI-Managementsystems. Er hilft Organisationen, KI-Entwicklung und KI-Nutzung durch Richtlinien, Rollen, Risikomanagement, Aufsicht und kontinuierliche Verbesserung zu steuern.
Was ist ein KI-Inventar oder Systemregister?
Ein KI-Inventar oder Systemregister ist ein geordneter Katalog von KI-Systemen und Anwendungsfällen innerhalb einer Organisation. Es erfasst typischerweise Verantwortliche, Zwecke, Datenquellen, Einsatzstatus, Risiken, Kontrollen und weitere Informationen, die für Governance, Audit und Rechenschaftspflicht benötigt werden.
Was sind personenbezogene Daten in KI?
Personenbezogene Daten sind Informationen, die sich nach Datenschutzrecht auf eine identifizierte oder identifizierbare natürliche Person beziehen. Im EU-Kontext ist die Bedeutung an Artikel 4 Absatz 1 der Verordnung (EU) 2016/679 und die dazugehörige rechtliche Auslegung geknüpft.
Was sind besondere Kategorien personenbezogener Daten in KI?
Besondere Kategorien personenbezogener Daten sind besonders sensible Arten personenbezogener Daten, die im EU-Datenschutzrecht festgelegt sind.
Sind biometrische Daten personenbezogene Daten?
Biometrische Daten sind personenbezogene Daten, die durch spezielle technische Verarbeitung physischer, physiologischer oder verhaltensbezogener Merkmale einer Person entstehen. Beispiele sind Gesichtsbilder, Fingerabdrücke, Stimmprofile, Gangbild und andere Identifikatoren, die Erkennung oder Identifizierung unterstützen können.
Was ist Anonymisierung in der KI-Daten-Governance?
Anonymisierung und De-Identifizierung sind Techniken, mit denen das Risiko reduziert wird, dass Personen aus einem Datensatz identifiziert werden können. In der Praxis kann irreversible Anonymisierung schwierig sein, insbesondere wenn Datensätze mit anderen Informationen verknüpft werden können.
Was ist KI-Sicherheit?
KI-Sicherheit ist das interdisziplinäre Feld und die Gesamtheit von Praktiken, die darauf ausgerichtet sind, Schäden durch KI-Systeme zu verhindern. Sie umfasst Zuverlässigkeit, Missbrauchsprävention, Minderung von Bias und Fehlern, Ausrichtung an menschlichen Werten sowie die Analyse kurz- und langfristiger Risiken.
Wie unterscheidet sich Risiko von Schaden?
Verwenden Sie Risiko für potenziell nachteilige Ergebnisse vor oder während einer Bewertung; verwenden Sie Schaden für die nachteilige Auswirkung, die eingetreten ist oder konkret beschrieben werden kann.
Was ist ein Safety Case für KI?
Ein KI-Safety-Case ist ein dokumentiertes und durch Nachweise gestütztes Argument, dass ein KI-System für eine definierte Nutzung und einen definierten Betriebskontext hinreichend sicher ist. Er ist besonders relevant für risikoreichere Sektoren, in denen Assurance ausdrücklich, überprüfbar und über die Zeit aufrechterhalten werden muss.
Was ist Model Drift?
Model Drift ist die Verschlechterung oder Veränderung der Modellleistung im Zeitverlauf, wenn reale Daten, Nutzerverhalten oder Betriebsbedingungen von den Daten abweichen, die beim Training oder bei der Evaluation verwendet wurden. Drift zu erkennen ist wichtig, um zu entscheiden, wann ein Modell neu trainiert, neu kalibriert oder ersetzt werden muss.
Was ist Modellevaluation?
Evaluation ist der Prozess, die Qualität, das Verhalten oder die Leistung eines Modells, Systems oder einer Änderung anhand definierter Kriterien zu messen. Im Machine Learning kann sie Validierungs- und Testdaten verwenden, während LLM-Evaluation auch Sicherheit, Faktentreue, Robustheit und Auswirkungen auf Nutzer einbeziehen kann.
Was ist ein Benchmark in der KI-Evaluation?
Ein Benchmark ist ein standardisierter Test, Datensatz, eine Aufgabe oder ein Evaluationsverfahren, mit dem die Leistung von KI-Systemen gemessen und verglichen wird.
Wie unterscheiden sich Precision und Recall?
Verwenden Sie Precision, wenn False Positives teuer sind; verwenden Sie Recall, wenn verpasste Positives teuer sind.
Warum kann Accuracy irreführend sein?
Accuracy ist eine Klassifikationsmetrik, die dem Anteil korrekter Vorhersagen an allen getroffenen Vorhersagen entspricht. Sie ist in manchen Evaluationssituationen nützlich, kann aber bei unausgewogenen Klassen irreführend sein, wenn Precision, Recall oder andere Metriken die Modellleistung besser abbilden.
Was ist agentische KI?
Agentische KI bezeichnet KI-Systeme, die Ziele verfolgen können, indem sie Kontext wahrnehmen, Entscheidungen treffen, Schritte planen und mit einem gewissen Maß an Autonomie Handlungen ausführen.
Was ist ein KI-Agent?
Ein KI-Agent ist eine Entität oder ein Softwaresystem, das eine Umgebung wahrnimmt, Eingaben interpretiert und Handlungen ausführt, um Ziele zu erreichen.
Was ist ein agentischer Workflow?
Ein agentischer Workflow ist ein Prozess, in dem ein KI-Agent mehrere Schritte zu einem definierten Ziel plant und ausführt. Er kann Schlussfolgern, Tool-Aufrufe, Interaktion mit externen Systemen, Monitoring und Selbstkorrektur umfassen, wenn sich Bedingungen ändern.
Was ist eine agentische Schleife?
Eine agentische Schleife ist der wiederholte Zyklus, durch den ein KI-Agent eine Situation beobachtet, über das weitere Vorgehen schlussfolgert, handelt und Feedback nutzt, um fortzufahren oder zu stoppen. Die Schleife läuft weiter, bis ein Ziel erreicht ist, eine Fehlerbedingung eintritt oder eine andere Beendigungsregel erfüllt ist.
Was ist biometrische KI?
Biometrische Technologie bezeichnet Systeme, die biometrische Daten verwenden, um die Identität einer Person zu erkennen, zu verifizieren oder zu identifizieren. Beispiele sind Gesichtserkennung, Fingerabdruck-Scanning, Iriserkennung, Stimmerkennung und verwandte Tools zur Identitätssicherung.
Was sind biometrische Daten?
Biometrische Daten sind personenbezogene Daten, die durch spezifische technische Verarbeitung physischer, physiologischer oder verhaltensbezogener Merkmale einer Person entstehen. Beispiele sind Gesichtsbilder, Fingerabdrücke, Stimmprofile, Gangbild und andere Identifikatoren, die Erkennung oder Identifizierung unterstützen können.
Was ist biometrische Identifizierung?
Biometrische Identifizierung ist die automatisierte Erkennung der Identität einer natürlichen Person durch den Vergleich der biometrischen Daten dieser Person mit biometrischen Daten, die in einer Datenbank gespeichert sind. Typischerweise handelt es sich um einen 1:n-Abgleich, mit dem festgestellt wird, wer die Person ist.
Wie unterscheidet sich biometrische Verifizierung von biometrischer Identifizierung?
Verwenden Sie biometrische Identifizierung, wenn es um die automatisierte Erkennung der Identität einer natürlichen Person durch Vergleich ihrer biometrischen Daten mit in einer Datenbank gespeicherten biometrischen Daten geht; verwenden Sie biometrische Verifizierung, wenn es um die automatisierte 1:1-Bestätigung der Identität einer Person durch Vergleich ihrer biometrischen Daten geht.
Was ist Machine Learning?
Machine Learning (ML) ist ein Teilgebiet der künstlichen Intelligenz, in dem Systeme Muster aus Daten oder Erfahrung lernen, um Vorhersagen, Klassifikationen, Empfehlungen oder Entscheidungen zu treffen, ohne für jeden Einzelfall ausdrücklich programmiert zu sein.
Was ist supervised learning?
Supervised Learning ist ein Machine-Learning-Ansatz, bei dem ein Modell aus Beispielen lernt, die Eingaben mit bekannten Zielausgaben oder Labels paaren. Das Modell nutzt diese gelabelten Beispiele, um Abbildungen zu lernen, die Vorhersage, Klassifikation oder Regression auf neuen Daten unterstützen können.
Wie unterscheidet sich Unsupervised Learning von Supervised Learning?
Verwenden Sie Supervised Learning, wenn gelabelte Eingabe-Ausgabe-Beispiele vorliegen; verwenden Sie Unsupervised Learning, wenn das Ziel darin besteht, Struktur ohne Labels zu entdecken.
Was ist Reinforcement Learning?
Reinforcement Learning (RL) ist ein Machine-Learning-Paradigma, bei dem ein Agent lernt, in einer Umgebung zu handeln, indem er Belohnungen oder Strafen für seine Handlungen erhält. Ziel ist es, eine Policy zu lernen, die die erwartete kumulative Belohnung über die Zeit maximiert.
Was ist generative KI?
Generative KI (GenAI) bezeichnet KI-Systeme, die als Reaktion auf Prompts oder Kontext neue Inhalte erzeugen, etwa Text, Bilder, Audio, Video, Code oder andere Medien. Diese Systeme lernen Muster aus Trainingsdaten und erzeugen Ausgaben, die den Arten von Inhalten ähneln oder sie transformieren, auf denen sie trainiert wurden.
Wie unterscheidet sich generative KI von künstlicher Intelligenz?
Verwenden Sie künstliche Intelligenz für das breite Feld und die Systemkategorie; verwenden Sie generative KI, wenn das System aus Prompts oder Kontext neue Inhalte erzeugt.
Was ist ein Large Language Model?
Ein LLM, also Large Language Model, ist ein Sprachmodell mit einer großen Anzahl von Parametern, das auf umfangreichen Text- oder multimodalen Daten trainiert wurde, um Sprache zu verstehen und zu erzeugen.
Was ist ein Diffusion Model?
Ein Diffusion Model ist ein generatives Modell, das darauf trainiert wird, einen Prozess umzukehren, bei dem Daten schrittweise verrauscht werden. Indem es lernt, von zufälligem Rauschen zu einer Ziel-Datenverteilung zu entrauschen, kann es realistische Bilder, Audio, Textrepräsentationen oder andere Ausgaben erzeugen.