FairAlgos – Fairness, Bias und Transparenz von (Computer Vision) Algorithmen
Zusammen mit dem Computer Vision Lab der TU und cogvis Software und Consulting GmbH startet im Mai dieses Projekt gefördert im Rahmen des BRIDGE Programms der FFG, das sich mit der Analyse von technosozialen Verfahren der Modellierung von Entscheidungsprozessen auf der Basis von Artificial Intelligence beschäftigt. Diskriminierung, Klassifikation und Unterscheidung als zentrale Methoden der Datenverarbeitung laufen immer Gefahr, unangemessene (gesellschaftliche, soziale, kulturelle, ökonomische) Benachteiligungen zu verstärken. Anhand von existierenden Verfahren der von Algorithmen unterstützten Entscheidungsfindung werden in dem Projekt Methoden entwickelt, die es erlauben ungerechtfertigte Benachteiligungen in diesen Verfahren zu identifizieren, und Qualitätskriterien für Fairness und Transparenz von Algorithmen zu formulieren. Untersucht werden dabei sowohl die Datenstrukturen als auch die Verarbeitungsverfahren und die Anwendung entsprechender technischer Lösungen. Mit diesem über zwei Jahre laufenden Projekt kehrt Roger Laufenberg nach einem längeren Aufenthalt in Schottland als postdoc researcher zurück zu VICESSE.