The Impact of Generative Artificial Intelligence on Political Knowledge, Opinion Formation, and Democracy

Generativ KIs gjennombrudd har ført til både optimisme og bekymring knyttet til teknologiens samfunnsmessige konsekvenser. En særlig bekymring er at KI kan forsterke samfunnstendenser som driver oss fra hverandre: økende kunnskapsgap, misinformasjon, ekkokamre, svekket sosial og politisk tillit, samt dypere polarisering. KnowAI-prosjektet tar tak i disse utfordringene gjennom en teoretisk fundert, systematisk og omfattende studie som undersøker effekten av KI på opinionsprosesser i teknologiens tidlige fase. KnowAI undersøker hvordan kunnskap tilegnes og holdninger formes i en mediekontekst dominert av KI, med et fokus på hvordan teknologien samspiller med individers motivasjon, ferdigheter, tillit og kognitiv bias. Forskingsgruppen kombinerer ekspertise fra politisk kommunikasjon, statsvitenskap, sosiologi, digitale mediestudier og informatikk for å studere disse spørsmålene. Gjennom eksperimenter, intervjuer og spørreundersøkelser undersøker KnowAI hvordan GenAI kan forsterke eller redusere polarisering i samfunnet. KnowAI ønsker å bidra til å sette en ny forskningsagenda om KIs konsekvenser for demokratiet, samt bidra til ansvarlig utvikling og bruk av KI i samfunnet.

The recent breakthrough of GenAI has spurred both positive and negative narratives of societal impact. A prominent fear is that AI can reinforce developments in society that are driving us apart: widening knowledge gaps, misinformation, echo chambers, diminishing social trust, and deepening polarization. The KnowAI project addresses these concerns through a theoretically grounded, systematic, and comprehensive study. Theoretically, KnowAI constructs a coherent model for studying opinion processes within an AI-infused information environment. Empirically, we assess how GenAI influences knowledge acquisition, misinformation, and opinion formation, through the use of controlled experiments, in-depth interviews and representative surveys. The research methodology of KnowAI is radically cross-disciplinary, bringing together a diverse team of social scientists, computational scientists, and digital media scholars. The input from computational science allows for devising and testing the impact of different versions of GenAI technology on knowledge and opinion formation, thus providing nuanced accounts of its advantages and pitfalls. Crucially, the KnowAI project aspires to actively contribute to the responsible integration of AI into society. This involves conducting informed assessments of its effects and reimagining the role of AI in fostering well-informed citizens, addressing political inequalities and political polarization. Through this comprehensive approach, KnowAI carves out a novel research agenda for the study of AI and democracy, paving the way for the responsible and impactful integration of AI technologies into our societies.