Consequences of Personalized Information Provision Online
Dieses Forschungsprojekt untersucht, wie die automatische Personalisierung von Online-Inhalten auf Plattformen wie Google gesellschaftliche Prozesse wie Segregation und Polarisierung beeinflussen könnte.
Steckbrief
- Beteiligte Departemente Wirtschaft
- Institut(e) Institut Applied Data Science & Finance
- Forschungseinheit(en) Applied Data Science
- Strategisches Themenfeld Themenfeld Humane Digitale Transformation
- Förderorganisation SNF
- Laufzeit (geplant) 01.10.2024 - 31.03.2026
- Projektleitung Prof. Dr. Ulrich Matter
- Schlüsselwörter Polarisierung, Algorithment, Personalizierung, Webplattformen
Ausgangslage
Mit der zunehmenden Bedeutung des Internets als Informationsquelle wird die Frage, wie sich die Verbreitung von Information über online-Kanäle auf unser Leben auswirkt immer wie wichtiger. Dabei gibt es grosse Bedenken, dass die personalisierten Filtermechanismen (basierend auf der Sammlung persönlicher Daten und Maschinellem Lernen) auf grossen Web-Plattformen zusehends dazu führen, dass wir nur noch Inhalte/Informationen konsumieren, die bereits unserem Weltbild entsprechen. Während die automatisierte Personalisierung des Informationskonsums sicher auch Vorteile für einzelne Konsument*innen bietet, wird befürchtet, dass diese Entwicklung auch gesellschaftliche Kosten hat und zu gesellschaftlicher Segregation, politischer Polarisierung, und Radikalisierung führen könnte, womit demokratische Institutionen und Prozesse untergraben und die politische Stabilität gefährdet sein könnte. Diese potentiellen negativen Folgen haben kürzlich zu Aufrufen nach staatlichen Interventionen sowie nach ethischen Richtlinien für online Plattformen geführt. Dies legt nahe, dass die Personalisierung der Verbreitung von Informationen online und deren Folgen irgendwie objektiv messbar sein sollten. Genau da setzt dieses Forschungsprojekt an.
Vorgehen
Mittels einem neuen Verfahren basierend auf synthetischen Internetnutzer*innen (sog. 'Bots') sollen im Rahmen dieses Forschungsprojektes mehrere Feldexperimente durchgeführt werden, um die Folgen der personalisierten Informationsbereitstellung auf Onlineplattformen hinsichtlich Segregation, Polarisierung und Radikalisierung besser abschätzen zu können. Das vorgeschlagene Verfahren bedingt eine aufwändige Software-Infrastruktur, welche als Teil dieses Forschungsprojektes weiterentwickelt werden soll. Dieses Verfahren soll während der Förderung durch den SNSF ausgereift und in drei konkreten Feldexperimenten angewandt werden.
