Online Dangerous Speech and Violence (ODAS)

Når og hvordan kan hatefulle ytringer på nett føre til vold i det virkelige liv? Nettaktivitet har vært foranledningen til mange av de voldelige hendelsene som dominerer nyhetsbildet. Opprørene under Den arabiske våren ble kalt Twitter-revolusjoner, stormingen av Kongressen i USA var inspirert av QAnon-innlegg på nettet, og propaganda på Facebook bidro til folkemordet av rohingyaene i Myanmar i 2017. Likevel betyr ikke dette at enhver hatefull ytring på internett fører til faktisk vold. Tvert imot: hatefulle ytringer finnes overalt, mens vold er sjeldent. For å forstå hvordan nettaktivitet fører til vold utenfor nettet, trenger vi mer kunnskap. ODAS vil frembringe ny innsikt ved å studere spenninger mellom hinduer og muslimer i India, både på nettet og utenfor nettet. Prosjektet består av fire deler (arbeidspakker). Arbeidspakke 1 vil undersøke hvilke mekanismer sosiale medier bruker for å koble avsendere og mottakere: Bidrar sosiale medier simpelthen til å koordinere opprør og demonstrasjoner, eller forandrer de menneskers oppfatninger slik at risikoen for vold øker? Vi vil benytte spørreundersøkelser til brukere av sosiale medier for å svare på dette spørsmålet. Arbeidspakke 2 skal utvikle programvare for automatisk innsamling av nettinnlegg fra politisk relevante aktører i India. Disse innleggene vil deretter bli analysert for fiendtlige følelser i en to-trinns prosess: For det første vil prosjektet bruke datalingvistisk teknikk for å klassifisere innlegg. Så vil mistenkte oppfordringer til vold bli verifisert av kodere i India, som har nødvendig kontekstkunnskap. Frem til nå har prosjektet lastet ned 4 millioner komplette brukerprofiler fra en populær indisk leverandør av sosiale medier, med tilhørende 23 millioner innlegg og kommentarer. Vi har også innhentet aktivistrapporter om angrep på religiøse minoriteter i landet. Foreløpig dataanalyse tyder på at på dager med voldelige angrep vises det økt nivåer av farlig tale på nettet, målt i politisk ladede referanser til hinduistisk religion. Vi forventer å publisere disse resultatene i 2023. Arbeidspakke 3 skal forske på kontekstene der det er størst sannsynlighet for vold. For dette formål brukes geografisk informasjon om gruppekonsentrasjoner, sosioøkonomiske forhold og tidligere vold. Vi planlegger å statistisk analysere de geografiske kontekstene der vold er mest sannsynlig. Så langt har vi fullført datainnsamlingen for den største indiske staten, Uttar Pradesh. Når innsamlingen av taledata er fullført, vil vi kombinere disse datainnsamlingene. Arbeidspakke 4 vil kombinere dataene samlet i AP 2 og AP 3 for å se om farlige talehendelser systematisk går foran vold. Prosjektgruppe består av forskere fra Norge, India, Tyskland og USA.

Does hateful online speech lead to real-world violence between religious communities? This question remains unresolved and presents a puzzle: online hate speech is everywhere, while physical violence is rare. Previous research has focused on the role of social media in individual “hate crimes” or in uprisings against authoritarian rule. However, no large-scale study has yet researched the role of online speech in recent deadly confrontations between Hindus and Muslims in India. ODAS will leverage insights from Dangerous Speech Theory (DST) to shed much-needed light on the consequences of online speech for offline harm. Following DST, the project will research the mechanisms connecting speakers and audiences in large-scale surveys. Additionally, a novel “Speech Event Dataset” will be coded, using both automated pre-selection and manual coding. Finally, rich context information on settlement locations, demographics, and conflict history will be assembled from existing sources. Combining these data, ODAS will be able to research the effects of online speech on offline harm accounting for context conditions. Beyond causal connections, ODAS will produce actionable predictions of regions at risk of future communal clashes. Theoretically, ODAS constitutes the first large-scale test of DST. Empirically, ODAS will deliver the first large-scale dataset of dangerous speech events and provide a rigorous test of their consequences for real-world violence. Methodologically, ODAS will break new ground: an innovative setup for coding speech events will be developed featuring automated processing and manual verification. Local conflict history and group demographics will be coded for all of India, benefitting a wider research program on communal conflicts. Key insights will be widely disseminated toward academic audiences, social media providers, stakeholders in India, and online audiences.