Fairness und Bias in erklärbaren KI-Systemen

Lernprogramm

1. Modul 1: Fairness-Definitionen und Metriken

   Group Fairness

   Demographic Parity, Equal Opportunity, Equalized Odds

   Individual Fairness

   "Ähnliche Personen sollten ähnlich behandelt werden" – formalisiert

   Counterfactual Fairness

   Kausale Ansätze für Fairness-Garantien

   Impossibility Theorems

   Warum Sie nicht alle Fairness-Kriterien gleichzeitig erfüllen können

2. Modul 2: Bias Detection mit XAI

   Feature Importance Analyse

   Welche Features treiben Unterschiede zwischen Gruppen?

   Subgroup Discovery

   Automatisch problematische Untergruppen finden

   Proxy Variable Detection

   Korrelationen aufdecken, die geschützte Attribute rekonstruieren

3. Modul 3: Bias Mitigation

   Preprocessing Methods

   Reweighing, Sampling-Strategien für balancierte Trainingsdaten

   Inprocessing Methods

   Fairness Constraints während des Trainings

   Postprocessing Methods

   Threshold Optimization für faire Vorhersagen

   Trade-off Analyse

   Wie viel Accuracy müssen Sie für Fairness opfern?

4. Modul 4: Rechtliche und ethische Frameworks

   DSGVO Compliance

   Artikel 22 und "Recht auf Erklärung" in der Praxis

   EU AI Act

   High-Risk AI Systems und ihre Dokumentationspflichten

   Ethische Guidelines

   IEEE, ACM und EU-Frameworks im Vergleich

5. Abschlussprojekt: Fairness Audit

   Vollständiges Audit eines realen oder realistischen Modells mit Dokumentation für Stakeholder

Ein Modell kann technisch korrekt sein und trotzdem diskriminierende Entscheidungen treffen. XAI-Methoden helfen Ihnen, solche Probleme zu finden – aber nur, wenn Sie wissen, wonach Sie suchen.

Dieser Kurs verbindet technische Fairness-Metriken mit ethischen Überlegungen. Sie lernen verschiedene Fairness-Definitionen kennen und warum sie sich oft widersprechen. Demographic Parity vs. Equalized Odds vs. Individual Fairness – jede hat ihre Berechtigung und ihre Grenzen.

Was ist eigentlich fair?

Ein Recruiting-Tool soll gleiche Akzeptanzraten für alle Geschlechter haben? Oder gleiche Fehlerraten? Die Antwort hängt vom Kontext ab, und genau das macht es kompliziert. Wir arbeiten mit dem COMPAS-Datensatz und sehen uns an, wie unterschiedliche Fairness-Definitionen zu völlig verschiedenen Schlüssen führen.

Sie nutzen Erklärungsmethoden, um Bias zu detektieren. Counterfactual Fairness zeigt Ihnen, ob geschützte Attribute durch Proxies ins Modell fließen. Sie lernen Preprocessing-, Inprocessing- und Postprocessing-Methoden zur Bias-Mitigation kennen und verstehen ihre Trade-offs.

Ein Kreditmodell war "fair" nach statistischen Metriken, aber Erklärungen zeigten: Es nutzte Postleitzahlen als Proxy für Einkommen und damit indirekt für Ethnizität.

Der Kurs behandelt auch rechtliche Aspekte – was fordern DSGVO und EU AI Act konkret? Sie erstellen ein Fairness-Audit für ein bestehendes Modell und dokumentieren es so, dass es Compliance-Anforderungen erfüllt.

Erklärbare künstliche Intelligenz repräsentiert einen neuen Ansatz für das Leben in einer zunehmend digitalisierten Welt. Die Fähigkeit, KI-Systeme nicht nur zu nutzen, sondern auch ihre Entscheidungsprozesse nachzuvollziehen, eröffnet neue Perspektiven für persönliches und berufliches Wachstum.

Unsere Workshops verbinden praktisches Lernen mit fundiertem Wissen über die Zukunft der Technologie. Sie entwickeln Kompetenzen, die in verschiedenen Bereichen anwendbar sind – von der Datenanalyse bis zur ethischen Bewertung automatisierter Systeme.

Durch strukturierte Übungen und realitätsnahe Szenarien bauen Sie ein tiefes Verständnis für die Mechanismen moderner KI-Systeme auf. Diese Entwicklung ermöglicht es Ihnen, fundierte Entscheidungen in technologiegetriebenen Umgebungen zu treffen und aktiv an der Gestaltung digitaler Prozesse teilzunehmen.