Coded Fairness Project

Machine Learning wird in immer mehr Branchen genutzt, um komplexe Probleme zu lösen. Und obwohl Machine Learning oft einen tatsächlichen Mehrwert darstellt, so kann die Verwendung auch unerwünschte Nebeneffekte zeigen. Denn Diskriminierung durch Algorithmen ist bereits heute ein alltägliches Problem. Dadurch werden alte, tief in unserer Gesellschaft verankerte gesellschaftliche Schieflagen in ein neues Medium übertragen und skaliert. Grund dafür sind Biases in den Algorithmen.

Dabei ist dieses Problem weder unbekannt noch unbehandelt. So gibt es eine Vielzahl an technischen Lösungen, die die Eigenschaften der Trainingsdaten oder auch die Auswertungen eines Machine Learning Systems auf eventuelle Biases kontrollieren.

Im Rahmen dieser Masterarbeit nutzen wir unsere gestalterischen Fähigkeiten dazu, einen Lösungsansatz zu entwickeln, der entgegen den technischen Lösungen, den Menschen hinter der Entwicklung eines Machine Learning Systems in den Fokus rückt, und so eine nachhaltige Verbesserung erzielt. Das Ergebnis ist das Coded Fairness Project.

Mit dem Coded Fairness Project werden Methoden, welche die Bias-sensible Entwicklung eines Machine Learning Systems fördern, mit diskursiven Ansätzen, wie solche Bemühungen in Unternehmen gefördert werden können, kombiniert. Diese Methoden können dann in Form eines Workshops von den Menschen, die in der Entwicklung beteiligt sind, angewendet werden. Bei der Durchführung unterstützt das beigelegte Booklet mit Hintergrundinformationen, Hinweisen und Anleitungen.

Für die Ausrichtung des Toolkits haben wir die vier Grundprinzipien Bewusstsein, Verantwortung, Inklusion und Testen aus unserer Recherche abgeleitet und basierend auf diesen Prinzipien verschiedene Methoden erarbeitet. Anschließend wurden die Methoden durch die Zusammenarbeit mit Expert:innen aus verschiedenen Disziplinen, wie der Psychologie oder der Informatik sowie durch ein User-Testing, iteriert.

Das fertige Methodenset stellen wir im Kontext der fiktiven Organisation „Coded Fairness Project“ vor. Mit Siegeln und Mitarbeiterzertifikaten schaffen wir eine Diskussionsgrundlage, wie Unternehmen motiviert werden können, sich nicht nur mit unseren Methoden, sondern auch mit der generellen Thematik von schädlichen Biases in Machine Learning auseinanderzusetzen.

In unseren Fähigkeiten der Mensch-zentrierten Gestaltung sehen wir vielversprechende Ansätze und Erfahrungen, mit denen auch in anderen Fachbereichen Produkte mit den Menschen im Fokus entwickelt werden können. Diese Ansätze wollen wir dazu nutzen, ein Puzzleteil zu einem größeren übergeordneten Problem beizutragen. Denn das Problem von Biases in Machine Learning muss in unseren Augen von verschiedenen Seiten gelöst werden.