UMOD: Understanding and Monitoring Digital Wildfires

Falske nyheter er et vanlig fenomen i dagens digitale medier. Vanligvis har de liten påvirkning og blir fort glemt. Det finnes likevel tilfeller der de falske nyhetene spres raskt og kan forårsake økonomiske skader, skader av omdømme, eller oppfordre til opptøyer og voldshandlinger. Slike tilfeller kalles digitale brannspredninger, og disse kan true samfunnssikkerheten. Vårt mål er å forstå slike digitale brannspredninger. Vi undersøkte hvorfor enkelte aktører sprer falske nyheter. Hva er motivene for å sette i gang en slik spredning? Hvilke typer nyheter er det som spres videre og kan forårsake skade? For å løse problemet må informatikere og psykologer samarbeide om å forstå digitale brannspredninger og forebygge skade som forårsakes av dem. Gjennom en studie med flere hundre deltagere, har vi påvist at folk overvurderer sin egen evne til å avsløre falske nyheter. Budskap som samsvarer med folks politiske overbevisning kan fremkalle sterk, emosjonell respons. Disse budskapene deles derfor oftere, uavhengig av hvorvidt innholdet er sant. Ondsinnede aktører kan utnytte denne effekten ved å skape målrettede budskap som oppildner til handling. Våre funn indikerer at det ikke er kognitive egenskaper, men snarere utdanning innen politikk og historie, som avgjør folks ferdigheter i å avsløre falske nyheter. Vi undersøker også falske visuelle information som DeepFakes. Vi har utarbeidet en modell som beskriver spredning av nyheter på nett, og denne brukes til å sammenligne spredningen av sanne og usanne nyhetsartikler og inhold i sosiale medier. Vi utviklet også metoder basert på kunstig intelligens som kan oppdage falske nyheter og testet dem på COVID-19-relatert feilinformasjon.

The anticipated long-term impacts of the project are: - to encourage further development of technical misinformation detection - create long-term interdisciplinary collaboration - encourage the use of AI in computational social science - inform the public discussion on digital wildfires, misinformation, and its countermeasures. For more information, please see the results report.

In the recent years, digital wildfires, i.e. fast-spreading online misinformation have been identified as a considerable risk to developed societies, which raised the need for strategies to alleviate that risk. However, due to the speed with which online information spreads today, in combination with its immense volume, human monitoring of the Internet is completely infeasible, which gives rise to the need for an automated system. On the other hand, the requirements for such systems w.r.t. reliability, functionality, flexibility, and trustworthiness are immense. And while several approaches have been developed in the recent past, almost all of these attempts attack the problem purely from the technical side, generally using machine learning techniques. Our approach differs in that we study the problem from both sides, from the technical, but also form the human side by performing experiments and interviews aimed at understanding how people assess trustworthiness online, which content is likely to spread far, and why actors spread misinformation. On the technical side, the projects aims to design, implement, and deploy an IT system capable of analyzing large amounts of online news, focusing on Norwegian news sites and international sites that are cited frequently. The goal is to track where specific news items first appeared and how they spread, study the spread of misinformation, and, by using the knowledge gained from the experiments, enable the system to distinguish between misinformation and factual news. The overall objective is the prevention of digital wildfires via automated early warnings form the system, as well as enhanced preparedness for such events through intense study on the spread of such wildfires and the underlying reasons of the phenomenon.