Beyond AI Collective

begleitet auf dem Weg zu diskriminierungsarmen KI-Systemen.

Über uns

Das Beyond AI Collective ist ein gemeinnütziger Verein, der sich dafür einsetzt, Diskriminierungen vermittelt durch den Einsatz algorithmischer Systeme zu vermeiden.

Unsere Motivation

“Künstliche Intelligenz” (KI) ist eine Technologie, deren Einsatz zu Diskriminierung führen oder sie verstärken kann. Öffentliche Einrichtungen und private Schlüsselakteure setzen KI-Systeme zunehmend in zentralen Lebensbereichen ein. Oft fehlen dabei Ressourcen und Know-How, um ethische und rechtliche Anti-Diskriminierungs-Anforderungen in die Praxis umzusetzen. Diese Lücke wollen wir schließen.

Unser Ansatz

wertebasiert, soziotechnisch und offen

Sie setzen ein KI-System ein oder sind dabei, eines zu entwickeln? Wir unterstützen Sie dabei Diskriminierungsrisiken in algorithmischen Systemen einzuschätzen und zu reduzieren. Dazu analysieren wir KI-Systeme mit einem ganzheitlichen Ansatz, bei dem wir Daten, KI-Modell(e) und Trainingsmethoden sowie den Anwendungskontext gemeinsam mit Ihnen betrachten. Zum Anwendungskontext gehören etwa die Einbettung der Outputs in Entscheidungsstrukturen sowie Beschwerde- und Evaluationsprozesse. Auf dieser Grundlage entwickeln wir passende Maßnahmen zur Minderung von Diskriminierungsrisiken und unterstützen bei der Umsetzung. Unsere Arbeit reicht von statistischen Analysen und Monitorings bis hin zur Begleitung von Beteiligungs- und Organisationsprozessen. 

Unser Framework

Entlang des typischen Entwicklungs- und Einsatzzyklus bilden wir im “AI-Discrimination-Mitigation-Framework” Risiken und Minderungsmaßnahmen wissenschaftlich fundiert und praxisbezogen ab. Gemeinsam mit unserem Netzwerk erweitern wir das Framework laufend und stellen es offen zur Verfügung.

Unsere Werte

zivilgesellschaftlich, interdisziplinär und intersektional

Unser Tun erfolgt mit einer zivilgesellschaftlichen Perspektive. Wir wollen strukturell benachteiligte Gruppen und Antidiskriminierungsarbeit im digitalen Zeitalter stärken und sichtbarer machen. Dem widmen wir uns interdisziplinär, intersektional und im engen Verbund mit unserem wachsenden Netzwerk. Neben der konkreten Analyse und Begleitung von KI-Systemen stehen deshalb u.a. Aufklärung und Forschungsarbeit auf unserer Agenda. Die zivilgesellschaftliche Perspektive vertreten wir zudem in Positionspapieren, Überzeugungs- und Netzwerkarbeit. 

Team / Ansprechpartner*innen

Das Beyond AI Collective wurde 2022 auf der Grundlage ehrenamtlicher Arbeit gegründet und bringt verschiedene berufliche Hintergründe und Perspektiven zusammen. Unsere Ansprechpersonen:

stina-lohmüller

Stina Lohmüller

Stina Lohmüller ist Policy Advisor und Kulturwissenschaftlerin mit den Schwerpunkten Digitale Kulturen und Technikphilosophie. Sie arbeitet an der Schnittstelle von Digitalpolitik, sozialer Gerechtigkeit und Ethik und befasst sich unter anderem mit der Operationalisierung ethischer Werte und der wertebasierten Entwicklung von KI-Systemen.

tobias-sterbak

Tobias Sterbak

Tobias Sterbak ist Data Scientist und Softwareentwickler auf dem Gebiet des maschinellen Lernens und der Verarbeitung natürlicher Sprache (NLP). Er arbeitet als Freiberufler und entwickelt und verbessert Machine Learning Systeme in einer Vielzahl von Anwendungsbereichen.

michael-puntshuh

Michael Puntschuh

Michael Puntschuh ist freiberuflicher Forscher zu Menschenrechten im digitalen Zeitalter. Er hat Quellen für algorithmisch vermittelte Diskriminierung analysiert, zur Entwicklung eines KI-Vertrauensstandards beigetragen und das Projekt Algo.Rules koordiniert, das Prozesskriterien für das Design von algorithmischen Systemen entwickelte.

tim-vallée​

Tim Vallée

Tim Vallée ist Jurist und Politikwissenschaftler. Er ist Experte für die Regulierung der digitalen Welt und beschäftigt sich v.a. mit KI, Diskriminierungsrisiken, Plattformökonomie, Nachhaltigkeit und Gemeinwohl. Zudem ist er Lehrbeauftragter am juristischen Fachbereich der Uni Bonn und hat mit dem KLuG - Köln leben & gestalten e.V. einen Verein gegründet, der sich für eine kooperative, zivilgesellschaftlich getragene Stadtentwicklung einsetzt.

Johanna Scholz

Johanna Scholz

Policy Analystin, designt Strategien und Methoden

Joscha Wirtz

Joscha Wirtz

Joscha Wirtz ist Umweltingenieur und Organisationsentwickler. Er arbeitet mit internationalen Teams an den Schnittstellen von Digitalisierung und Nachhaltigkeit, mit einem besonderen Fokus auf die verantwortungsvolle Skalierung technischer Systeme.

Nimm Kontakt zu uns auf