#Algorithmus
Diejenigen, die die Anfangszeiten der sozialen Plattformen miterlebt haben, werden sich erinnern: Die persönliche Chronik bestand damals aus den Beiträgen von Freund:innen bzw. Konten, mit denen man vernetzt oder „befreundet“ war. Accounts mit identischen Netzwerken konnten davon ausgehen, dass sie auch identische Inhalte zu sehen bekamen – zusammengestellt in einer chronologisch angeordneten Timeline [1].
Diese Art der Timeline ist heute längst nicht mehr die Standardoption und, wenn überhaupt, nur noch auf einzelnen Plattformen zu finden. Über die Jahre wurde der chronologische Feed sukzessive von algorithmisch kuratierten Timelines abgelöst. Unter die Beiträge von abonnierten Konten mischten sich mehr und mehr Werbung und Inhalte, die zu den eigenen Interessen passen könnten.
Was man zu sehen bekommt, wird heute kaum noch vom eigenen Netzwerk, sondern primär vom persönlichen Nutzungsverhalten bestimmt. Dazu kommt, dass vor allem jene Inhalte bevorzugt werden, mit denen bereits viel interagiert wurde. Darunter zählen besonders populäre, aber auch emotional aufgeladene oder kontroverse Beiträge [2].
Das Ziel dieses hyperpersonalisierten Angebots: die Nutzer:innen bzw. ihre Aufmerksamkeit so lange wie möglich auf der Plattform zu halten. Möglich wird das durch diverse Design-Entscheidungen und Techniken wie das „infinite scrolling“ [3], aber vor allem durch das Herzstück der jeweiligen Plattformen: das Recommender-System – das ist der Algorithmus, der entscheidet, welche Nutzer:innen welche Inhalte zu sehen bekommen.
Die fehlende Transparenz und ihre Folgen
Dabei gibt es tatsächlich gar nicht „DEN Algorithmus“ , der die Ausspielung in sozialen Medien steuert. Wie genau die Empfehlungssysteme Inhalte auswählen ist von Plattform zu Plattform unterschiedlich. Und: Wie genau diese Empfehlungssysteme Inhalte auswählen, ist in den meisten Fällen kaum bekannt – egal, um welche Plattform es sich handelt.
Nicht nur die Nutzer:innen der Plattformen können häufig nicht nachvollziehen, ob und warum ihre Inhalte ausgespielt werden (oder nicht). Oft entstehen dadurch informelle Theorien („folktheories“), mit denen sich die Anwender:innen die vermutliche Wirkungsweise eines Algorithmus erklären. Auch in der Forschung sind die verfügbaren Werkzeuge und Methodiken, um die „algorithmic opacity“ (die fehlende Transparenz rund um die Algorithmen) systematisch zu durchleuchten, begrenzt [4, 5].
Von Filterblasen und Echokammern
Maßgeschneiderte Inhalte in Kombination mit fehlenden Informationen über die Empfehlungssysteme haben schwerwiegende Folgen – unter anderem auf den öffentlichen Diskurs im digitalen Raum. Dazu kommt, dass soziale Plattformen auch eine wesentliche Rolle als Informationsquelle spielen [6] und ihr Einfluss auf die Gesellschaft sowie Politik immer weiter zunimmt. Beispiele hierfür sind (Bandy, 2021) [7] oder (Stănescu, 2024) [8].
Wenn sich die konsumierten Inhalte von Person zu Person komplett unterscheiden, erschwert das jegliches gemeinsames Gespräch. Zudem tragen die Dynamiken der sozialen Plattformen auch zum Entstehen von Filterblasen und Echokammern bei – auch wenn der Effekt dieser Phänomene oft deutlich nuancierter bzw. die Thematik deutlich komplexer ist, als es für gewöhnlich gern dargestellt wird [9, 10].
Echokammern
Unter Echokammern werden soziale Umfelder verstanden, in denen sich Menschen mit Gleichgesinnten treffen. Da die persönlichen Ideologien und Überzeugungen in diesen Kreisen häufig übereinstimmen, werden sie kontinuierlich verstärkt. Echokammern sind dabei aber kein reines Online-Phänomen, sondern kommen ebenso in der Offline-Welt vor: Auch abseits der digitalen Welt interagieren Menschen tendenziell eher mit Personen, die die eigenen Ansichten teilen (z. B. im Kreis der Freund:innen oder Kolleg:innen) [10].
Filterblasen
Im Gegensatz zu Echokammern, die das soziale Umfeld beschreiben, geht es bei Filterblasen um die Inhalte, mit denen wir in Kontakt kommen. Diese Blasen entstehen durch die spezifische Auswahl von Beiträgen auf sozialen Plattformen. Je nachdem, auf was wir klicken, wie lange wir bei bestimmten Videos verweilen oder wonach wir suchen, wählen die Algorithmen weitere Inhalte für uns aus. Das weckt die Befürchtung, dass wir dadurch mit der Zeit immer weniger mit Ansichten, die unseren eigenen Überzeugungen widersprechen, in Kontakt kommen und sich somit die eigenen Ideologien immer weiter verfestigen. Die Forschung zeichnet aber auch hier kein einheitliches Bild. Teilweise deuten Studienergebnisse darauf hin, dass die persönlichen Auffassungen vor allem dann bestärkt werden, wenn Menschen mit stark widersprechenden Meinungen konfrontiert werden [9] – was offline tatsächlich seltener der Fall ist als online, wo Social-Media-Algorithmen die Timeline auf Konflikt und Krawall optimieren.
NO:HATE: Algorithmus-Beobachtungen in Echtzeit
Im Zuge des Forschungsprojekts ist unser Ziel, wichtige Einblicke in die Empfehlungslogik der sozialen Plattformen zu erhalten. Forscher:innern wird der Zugang zu den Daten bzw. Systemen der sozialen Plattformen oft erschwert, weshalb zumeist externe Überprüfungen (sogenannte „Audits“) der Empfehlungsalgorithmen vorgenommen werden.
In vielen Fällen kommen sogenannte „sock puppet audits“ zum Einsatz, um den „algorithmic content shift“ zu überprüfen [11]. Dabei handelt es sich beispielsweise um automatisierte Bots, die so gut wie möglich versuchen, das Verhalten echter Nutzer:innen auf der Plattform nachzuahmen. In weiterer Folge wird analysiert, wie sich die vorgeschlagenen Inhalte basierend auf dem festgelegten Verhalten entwickeln. Ein Beispiel hierfür ist [12]. Auf den Plattformen TikTok und YouTube wurden auf diese Weise bereits Filterblasen-Effekte [13], Radikalisierungstendenzen [14] oder die Weiterverbreitung von Verschwörungstheorien [15] empirisch untersucht und quantifiziert.
Zumeist werden dem „sock puppet“ fixe Verhaltensweisen vorgegeben, wie z. B. konkrete Zeitvorgaben, wie lange ein Video geschaut wird, oder ein konkretes Set an Hashtags bzw.Schlagwörtern, nach denen Inhalte ausgewählt werden [16].
Das hat allerdings wesentliche Nachteile: Echte Nutzer:innen konsumieren selten jedes Video gleich lang. Zahlreiche Videos bleiben oft nur den Bruchteil einer Sekunde auf dem Screen, während andere zur Gänze abgespielt werden. Nutzer:innen handeln zumeist nicht nach festgelegten Mustern, sondern basierend darauf, was ihnen angezeigt wird. Automatisierte Programme wie Bots können hingegen mit den aktuellen Zugängen selten direkt auf die gezeigten Inhalte reagieren. Ihr Verhalten ist dadurch weniger natürlich und stärkerdeterministisch gesteuert als das echter Nutzer:innen – mit entsprechenden Auswirkungen auf die Ergebnisse. Darüber hinaus ist eine direkte Reaktion auf die gezeigten Inhalte (bzw. den Verlauf eines Videos) kaum möglich, da das Wahrnehmen bzw. Konsumieren der Inhalte und die Interaktion zumeist technisch getrennte Prozesse sind. Durch moderne Vision–Language-Modelle (VLMs) wurden in diesem Bereich zwar bereits wesentliche Fortschritte erzielt [16], allerdings schränken der hohe Rechenaufwand und die daraus resultierende Reaktionszeit den Einsatz in Live-Systemen ein.
Um eine möglichst realistische Interaktion mit sozialen Plattformen zu imitieren, wird im Rahmen des Forschungsprojekts darum ein anderer Ansatz mit Fokus auf Echtzeit-Klassifikation von Inhalten verfolgt. Dazu wird Contrastive Language–Image Pre-Training (kurz CLIP) eingesetzt [17], das Videos Frame für Frame gemeinsam mit Textbeschreibungen („Prompts“) quasi in Echtzeit verarbeiten kann. Das erlaubt den automatisierten Systemen, binnen kürzester Zeit den gesehenen Inhalt einzuordnen und dementsprechend darauf zu reagieren – ähnlich zu dem Verhalten, welches Social-Media-Nutzer:innen tatsächlich zeigen. So soll möglichst realistisches Nutzungsverhalten nachgestellt und die daraus resultierende Auswahl der Inhalte beobachtet werden. Ziel ist es, die Empfehlungslogik von Plattformen besser zu verstehen bzw. den verhaltensbasierten algorithmic content shift in Echtzeit zu beobachten und zu analysieren.
Quellen/Referenzen
Christopher A. Bail, Lisa P. Argyle, Taylor W. Brown, John P. Bumpus, Haohan Chen, M. B. Fallin Hunzaker, Jaemin Lee, Marcus Mann, Friedolin Merhout und Alexander Volfovsky: »Exposure to Opposing Views on Social Media Can Increase Political Polarization«. Proceedings of the National Academy of Sciences of the United States of America 115(37), 2018: S. 9216–9221. https://doi.org/10.1073/pnas.1804840115. [9]
Jack Bandy: »Problematic Machine Behavior: A Systematic Literature Review of Algorithm Audits«. Proceedings of the ACM on Human-Computer Interaction 5(CSCW1), 2021: Article 74. https://doi.org/10.1145/3449148. [7]
Niels Brügger: »A Brief History of Facebook as a Media Text: The Development of an Empty Structure«. First Monday 20(5), 2015. https://doi.org/10.5210/fm.v20i5.5423. [1]
Michael Ann DeVito, Darren Gergle und Jeremy Birnholtz: »“Algorithms Ruin Everything”: #RIPTwitter, Folk Theories, and Resistance to Algorithmic Change in Social Media«. In: Proceedings of the 2017 CHI Conference on Human Factors in Computing Systems (CHI ’17). New York, NY: ACM, 2017, S. 3163–3174. https://doi.org/10.1145/3025453.3025659. [5]
Motahhare Eslami, Karrie Karahalios, Christian Sandvig, Kristen Vaccaro, Aimee Rickman, Kevin Hamilton und Alex Kirlik: »First I “Like” It, Then I Hide It: Folk Theories of Social Feeds«. In Proceedings of the 2016 CHI Conference on Human Factors in Computing Systems (CHI ’16). New York, NY: ACM, 2016, S. 2371–2382. https://doi.org/10.1145/2858036.2858494. [4]
Matthew Gentzkow und Jesse M. Shapiro: »Ideological Segregation Online and Offline«. The Quarterly Journal of Economics 126(4), 2011: S. 1799–1839. https://doi.org/10.1093/qje/qjr044. [10]
Eslam Hussein, Prerna Juneja und Tanushree Mitra: »Measuring Misinformation in Video Search Platforms: An Audit Study on YouTube«. Proceedings of the ACM on Human-Computer Interaction 4(CSCW1), 2020: Article 48, 27 Seiten. https://doi.org/10.1145/3392854. [13]
Hazem Ibrahim, HyunSeok D. Jang, Nouar Aldahoul, Aaron R. Kaufman, Talal Rahwan und Yasir Zaki: »Systematic Partisan Content Skews in TikTok During the 2024 US Elections«. Nature, 2026. https://doi.org/10.1038/s41586-026-10447-1. [12]
Daniel Klug, Yiluo Qin, Morgan Evans und Geoff Kaufman: »Trick and Please. A Mixed-Method Study On User Assumptions About the TikTok Algorithm«. In: Proceedings of the 13th ACM Web Science Conference 2021 (WebSci ’21). New York, NY: ACM, 2021, S. 84–92. https://doi.org/10.1145/3447535.3462512. [2]
Maleeha Masood, Shreya Kannan, Zikun Liu, Deepak Vasisht und Indranil Gupta: »Counting How the Seconds Count: Understanding TikTok Behavior via ML-Driven Analysis of Video Content«. In: Proceedings of the 2026 CHI Conference on Human Factors in Computing Systems (CHI ’26). New York, NY: ACM, 2026: Article 1396. https://doi.org/10.1145/3772318.3790311. [16]
Nic Newman, Amy Ross Arguedas, Craig T. Robertson, Rasmus Kleis Nielsen und Richard Fletcher: Reuters Institute Digital News Report 2025. Oxford: Reuters Institute for the Study of Journalism, 2025. https://doi.org/10.60625/risj-8qqf-jt36. [6]
Alec Radford, Jong Wook Kim, Chris Hallacy, Aditya Ramesh, Gabriel Goh, Sandhini Agarwal, Girish Sastry, Amanda Askell, Pamela Mishkin, Jack Clark, Gretchen Krueger und Ilya Sutskever: »Learning Transferable Visual Models from Natural Language Supervision«. In: Proceedings of the 38th International Conference on Machine Learning (ICML 2021). Proceedings of Machine Learning Research 139, 2021: S. 8748–8763. https://proceedings.mlr.press/v139/radford21a.html. [17]
Manoel Horta Ribeiro, Raphael Ottoni, Robert West, Virgílio A. F. Almeida und Wagner Meira Jr.: »Auditing Radicalization Pathways on YouTube«. In: Proceedings of the 2020 Conference on Fairness, Accountability, and Transparency (FAT ’20)*. New York, NY: ACM, 2020, S. 131–141. https://doi.org/10.1145/3351095.3372879. [14]
Jan Ole Rixen, Luca-Maxim Meinhardt, Michael Glöckler, Marius-Lukas Ziegenbein, Anna Schlothauer, Mark Colley, Enrico Rukzio und Jan Gugenheimer: »The Loop and Reasons to Break It: Investigating Infinite Scrolling Behaviour in Social Media Applications and Reasons to Stop«. Proceedings of the ACM on Human-Computer Interaction 7(MHCI), 2023: Article 228. https://doi.org/10.1145/3604275. [3]
Christian Sandvig, Kevin Hamilton, Karrie Karahalios und Cedric Langbort: »Auditing Algorithms: Research Methods for Detecting Discrimination on Internet Platforms«. In: Data and Discrimination: Converting Critical Concerns into Productive Inquiry – Preconference at the 64th Annual Meeting of the International Communication Association. Seattle, WA, 2014, 23 Seiten. https://websites.umich.edu/~csandvig/research/Auditing%20Algorithms%20%20Sandvig%20%20ICA%202014%20Data%20and%20Discrimination%20Preconference.pdf. [11]
Ivan Srba, Robert Moro, Matus Tomlein, Branislav Pecher, Jakub Simko, Elena Stefancova, Michal Kompan, Andrea Hrckova, Juraj Podrouzek, Adrian Gavornik und Maria Bielikova: »Auditing YouTube’s Recommendation Algorithm for Misinformation Filter Bubbles«. ACM Transactions on Recommender Systems 1(1), 2023: Article 6, 33 Seiten. https://doi.org/10.1145/3568392. [15]
Georgiana Camelia Stănescu: »Fake News, Bots, and Influencers: The Impact of Social Media on Romania’s 2024 Elections«. Social Sciences and Education Research Review 11(2), 2024: S. 361–366. https://doi.org/10.5281/zenodo.15258337. [8]