BIAS bei den Applied Machine Learning Days AMLD 2024

Die Applied Machine Learning Days AMLD sind eine globale Plattform, die Expert*innen und Teilnehmende aus über 40 Ländern aus Industrie, Wissenschaft und Regierung zusammenbringt. Die Konferenz besteht aus verschiedenen Tracks, die sich mit speziellen Themen befassen. Bei der diesjährigen Ausgabe organisierten Mitglieder des BIAS-Projekts in Zusammenarbeit mit der NLP-Expertin Elena Nazarenko von der Hochschule Luzern und dem Generative AI Lab der Berner Fachhochschule einen Track zum Thema Fairness und Voreingenommenheit in KI-Anwendungen für den Arbeitsmarkt.

Eingeleitet wurde der Track durch eine kurze Präsentation des BIAS-Projekts durch Mascha Kurpicz-Briki, die Leiterin des technischen Arbeitspakets. Ziel des Horizon Europe Projekts BIAS ist die Entwicklung fundierter Kenntnisse über den Einsatz von KI im Personalwesen sowie die Erkennung und Abschwächung von Ungerechtigkeiten in KI-gesteuerten Rekrutierungstools.

Im Anschluss an diese Einführung erläuterte Eduard Fosch-Villaronga vom BIAS-Partner Leiden University in seinem Keynote-Vortrag, wie die Entwicklung von KI-Lösungen tiefgreifende Auswirkungen auf die Gesellschaft hat und eine soziotechnische, partizipative Anstrengung erfordert, die technische, soziale, wirtschaftliche, politische und rechtliche Überlegungen einbezieht. Er zeigte auf, wie die verschiedenen Aktivitäten im Arbeitspaket 2 das BIAS-Projekt unterstützten. Zum Beispiel half die Literaturübersicht dem Projekt, frühere Bemühungen auf theoretischer Ebene zu betrachten. Die Bestandsaufnahme und die Experteninterviews halfen, den Stand der Technik und die Denkweise der in diesen Bereichen tätigen Fachleute zu verstehen. Schliesslich half die Umfrage dem Projekt, die Einstellungen und Sorgen der Arbeitnehmenden und der Öffentlichkeit gegenüber der Automatisierung auf dem Arbeitsmarkt zu erfassen. Am Ende der Präsentation ermutigte Eduard die Zuhörer*innen, sich den National Labs anzuschliessen, einem Pool verschiedener Interessengruppen, darunter Arbeitgeber*innen, Arbeitnehmer*innen, Personalfachleute, KI-Entwickler*innen, Gewerkschaftsvertreter, zivilgesellschaftliche Organisationen und Wissenschaftler*innen, die mit ihrem Fachwissen und/oder ihrer Erfahrung zum BIAS-Projekt beitragen können.

Auf die Keynote folgte ein Vortrag von Preethi Lahoti von Google Research über KI-Sicherheit und Fairness in grossen Sprachmodellen. Als letzter Redner der ersten Session stellte Alejandro Jesús Castañeira Rodriguez von der Firma Janzz.technology die technischen Ansätze hinter ihrer Job-Matching-Software vor. Nach einer wohlverdienten Kaffeepause bewegte sich Christoph Heitz von der Zürcher Hochschule für Angewandte Wissenschaften (ZHAW) zwischen Philosophie und technischem Lösungsansatz und diskutierte, wie man die soziotechnische Natur von Fairness und Voreingenommenheit in Theorie und Praxis angehen kann. Cynthia Liem von der Technischen Universität Delft teilte Erfahrungen und Erkenntnisse aus interdisziplinären Forschungskooperationen, die eine Brücke zwischen der Forschung im Bereich der KI und dem Arbeitsmarkt schlagen. Zwei Kurzvorträge von Jana Mareckova von der Universität St. Gallen und Pencho Yordanov von der Adecco Group schlossen die Session ab.

Auf jeden Vortrag folgte eine Fragerunde, in der sich das interessierte Publikum aktiv mit den Referent*innen auseinandersetzte, was eine rege Diskussion ermöglichte.

Einen Track verpasst?

Aufzeichnungen von ausgewählten Tracks und Keynotes werden auf dem Youtube-Kanal der Applied Machine Learning Days zur Verfügung demnächst zur Verfügung gestellt:

Applied Machine Learning Days - YouTube