Logo: to the web site of the Swedish Defence University

Social media provides opportunities that can be exploited strategically for malicious purposes, including dissemination of disinformation. However, the participatory architecture of social media may complexify the propagation dynamics of strategic disinformation, involving different actors with different agendas. This dissertation argues that understanding the social media propagation of state-linked disinformation requires moving beyond an exclusive focus on top-down orchestration toward a more comprehensive view that includes the active participation of social media users. Drawing on practice theory and conceptualizations of disinformation as participatory and networked, this dissertation aims to further our understanding of the social media propagation of disinformation originating from Russian state-affiliated and aligned media, focusing on both orchestrated and organic platform activities. The dissertation uses quantitative and qualitative online and social media data, combining descriptive analysis and thematic content analysis to gain insights into how and why English-language news articles containing false or misleading claims propagated on social media between 2015-2022. The findings suggest that while the propagation of disinformation could not be attributed to orchestrated or organic activities alone, ordinary platform users played an important role as propagators, suggesting that a sole focus on orchestrated activity would greatly underestimate the scope of disinformation circulating on the platforms. Bots also played a central role in spreading disinformation, however, bot-driven disinformation was remarkably unsuccessful in engaging social media users, highlighting that prevalence of disinformation should not necessarily be equated with reach. The findings further show that although the organic bottom-up propagation of disinformation was multifaceted and governed by different purposes, emotions, and understandings, much of this activity was politically oriented, often characterized by opposition, distrust and discontent. This dissertation advances a practice-based understanding of the social media propagation of state-linked disinformation beyond orchestrated activities, and contributes novel empirical evidence demonstrating how disinformation originating from Russian state-linked media plays out in practice on social media.

Sociala medier kan utnyttjas strategiskt i skadligt syfte, bland annat för att sprida desinformation. Samtidigt kan den interaktiva deltagarbaserade strukturen på sociala medier göra spridningen av strategisk desinformation mer komplex, eftersom olika aktörer med olika syften kan vara involverade. Denna avhandling argumenterar för att en bred förståelse för hur statligt kopplad desinformation sprids på sociala medier kräver ett perspektiv som fokuserar både på samordnade desinformationsaktiviteter och på aktivt deltagande från sociala media-användare. Med utgångspunkt i praktikteori och konceptualiseringar av desinformation som ett deltagande och nätverksbaserat fenomen syftar denna avhandling till att bidra till vår förståelse för hur desinformation med ursprung i media med koppling till den ryska staten, med fokus på både samordnade och icke-samordnade aktiviteter på sociala medier. Avhandlingen bygger på både kvantitativa och kvalitativa data från internet och sociala medier och kombinerar deskriptiv analys med tematisk innehållsanalys för att undersöka hur och varför engelskspråkiga nyhetsartiklar som innehåller falska eller missvisande påståenden spreds på sociala medier under 2015–2022. Resultaten visar att spridningen av desinformation inte enbart kan förklaras av samordnade aktiviteter, utan icke-samordnade aktiviteter spelade också en viktig roll i spridningen, vilket tyder på att ett ensidigt fokus på samordnade aktiviteter kraftigt skulle underskatta mängden desinformation som cirkulerar på sociala medier. Botar spelade också en viktig roll i spridningen av desinformation, men den desinformation som spreds av botar hade svårt att skapa engagemang. Resultaten visar också att även om den icke-samordnade spridningen av desinformation drevs av olika syften, känslor och tolkningar, var en stor del av aktiviteten politiskt präglad och gav ofta uttryck för motstånd, misstro och missnöje. Avhandlingen presenterar ett praktik-teoretisk perspektiv på hur desinformation med ursprung i media med koppling till den ryska staten sprids på sociala medier, och med ny empirisk kunskap om hur sådan desinformation sprids i praktiken på sociala medier.