KI diskriminierungsarm gestalten - aber wie?

Der Einsatz von KI birgt, je nach Anwendungskontext, erhebliche Diskriminierungsrisiken: Bewerbungsfilter sortieren systematisch Frauen aus, Menschen ohne niederländische Staatsangehörigkeit waren verstärkt rechtswidrigen Betrugsvorwürfen durch niederländische Behörden ausgesetzt und in Österreich führte der Einsatz von KI durch den Arbeitsmarktservice (AMS) zu geringeren Qualifizierungschancen u.a. für Frauen. Immer dann, wenn KI bei für Mensch und Gesellschaft relevanten Entscheidungen eingesetzt wird, kann es zu Diskriminierung kommen. Gruppen, die ohnehin verstärkt gesellschaftlich benachteiligt werden, unterliegen dabei besonderen Diskriminierungsrisiken.

Die Beschreibung, Analyse und Abschätzung, aber auch die Mitigation der vielfältigen Diskriminierungsrisiken hat sich das Beyond AI Collective zur Aufgabe gemacht. Dazu arbeiten wir laufend an einem Framework, das technische und nicht-technische Perspektiven und Ansätze vereint. Auf dieser Grundlage begleiten wir Organisationen bei Entwicklung und Betrieb, um KI-Systeme möglichst diskriminierungsfrei zu gestalten.

Ob und wie es gelingen kann, alle relevanten Perspektiven, Stakeholder und Disziplinen einzubeziehen, um algorithmenvermittelte Diskriminierung zu vermeiden, diskutieren wir in dieser Veranstaltung.

Dafür werden wir mit Prof. Hannah Ruschemeier (FernUni Hagen) und Nina Bewig (Antidiskriminierungsstelle des Landes Berlin) über Diskriminierungsrisiken bei der Gestaltung von KI sprechen.