Schwerpunkt Recht und Sicherheit

AI Act Compliance

AI Act Compliance (Schwerpunkt Recht und Sicherheit)

Grundlagen & Das Gesetz
Regulatorischer Rahmen & Rollen
Operative Compliance & Risikobewertung
Audit-Readiness
Kurz zusammengefasst

Schwerpunkt Recht und Sicherheit

1
Der AI Act im Überblick
Warum gibt es das Gesetz, wen betrifft es, welche Bedeutung haben GPAI, FRIA und AI Literacy.
2
Hochrisiko-KI & Verbotene Praktiken
Das HR- und Workplace-Dilemma und die 7 Kernpflichten für Hochrisiko-Systeme.
3
AI Governance & Interne Richtlinien
AI Policy, GPAI, Prozesse bei Zwischenfällen und Audit-Sicherheit.
AI Act Compliance

Grundlagen & Das Gesetz

1

Was ist KI überhaupt?

Definition und Grundbegriffe (KI/AI, LLM, RAG, GenAI, ML,..)
2

Der AI Act im Überblick

Warum gibt es das Gesetz, wen betrifft es, welche Bedeutung haben
GPAI (General Purpose AI)
FRIA (Fundamental Rights Impact Assessment)
AI Literacy (KI-Kompetenz)
3

Das Ampelsystem (Risikoklassen)

Verbotene KI (z. B. Social Scoring).
Hochrisiko-KI (z. B. KI im HR-Bereich/Bewerbungsverfahren oder bei der Kreditprüfung).
Geringes/Minimales Risiko (Standard-Tools).
Rechtlicher Rahmen

Regulatorischer Rahmen & Rollen

1

Der AI Act als Teil der Produktsicherheit

Wo ordnet sich das Gesetz rechtlich ein? Zusammenspiel mit der DSGVO und dem Urheberrecht.
2

Wer bin ich im AI Act? (Rollenanalyse)

Unterschied zwischen Nutzer, Anbieter (Provider), Betreiber (Deployer/User) und Händler.
Warum das „Einkaufen und Anpassen“ eines Tools ein Unternehmen rechtlich plötzlich vom Betreiber zum Anbieter machen kann (Artikel 25).
Risikobereich

Hochrisiko-KI & Verbotene Praktiken

HR und Workplace

Das HR- und Workplace-Dilemma

Warum fast jede KI, die im Personalwesen (Bewerber-Scoring, Leistungsüberwachung) oder bei der Kreditwürdigkeit eingesetzt wird, "Hochrisiko" ist.

Hochrisiko-Systeme

Die 7 Kernpflichten für Hochrisiko-Systeme

Risikomanagement-System

Data Governance (Qualität der Trainingsdaten)

Technische Dokumentation

Protokollierung (Traceability)

Transparenz für den Betreiber

Menschliche Aufsicht (Human-in-the-loop)

Robustheit, Genauigkeit & Cybersecurity

Verbotene Praktiken

Verbotene Praktiken

Was im Unternehmen absolut tabu ist .

Praxis

Operative Compliance & Risikobewertung

1

Aufbau eines "KI-Inventars" (AI Registry)

Wie erfasst das Unternehmen, welche KI-Tools wo im Einsatz sind?
2

Praxis-Übung: Das Risk-Assessment

Die Teilnehmenden klassifizieren 3 fiktive oder reale Softwareprojekte des Unternehmens anhand eines Prüfschemas.
3

Grundrechte-Folgenabschätzung (FRIA)

Wann muss eine Organisation prüfen, wie sich der KI-Einsatz auf die Grundrechte der Betroffenen auswirkt, und wie dokumentiert man das rechtssicher?
Governance

AI Governance & Interne Richtlinien

1

Die unternehmenseigene KI-Leitlinie (AI Policy)

Was muss drinstehen? (Zulässige Tools, Whitelists/Blacklists, Vorgaben für Prompting).
2

Umgang mit General Purpose AI (GPAI)

Sonderregeln für mächtige Basismodelle wie GPT-4 oder Claude und deren kommerzielle Einbindung.
3

Prozesse bei Zwischenfällen

Was passiert bei einer Fehlfunktion oder einer Urheberrechtsverletzung durch die KI? Wer haftet intern und extern?
Audit-Readiness

Audit-Readiness

Audit-Sicherheit:
Wie weisen wir der Aufsichtsbehörde nach, dass wir compliant sind? (Schulungsnachweise nach Art. 4, Dokumentenablage).
Abschluss

Lernerfolgskontrolle

Kurzes Quiz zur Lernerfolgskontrolle
Open Space: Beantwortung spezifischer Fragen
Jetzt anfragen

Unverbindliche Anfrage zum KI-ACT Training