PHOTOFAKE – Visual Disinformation, the Digital Economy and the Epistemology of the Camera Image

Våre demokratier utfordres av falske nyheter og desinformasjon. Den nye digitale økonomien, hvor det er lett for hvem som helst å publisere hva de måtte ønske, undergraver den frie pressens status som kurator for den offentlige samtale og gir økt plass til desinformasjon. Forskere har respondert ved å undersøke falske nyheter, men i mindre grad de visuelle aspektene ved problemet. Framveksten av deepfakes og relaterte AI-drevne bildemanipulasjoner har imidlertid gjort behovet for forskning på visuell desinformasjon påtrengende. Utfordringen omfatter et mangfold av manipulerende visuelle uttrykk, fra de enkleste og historisk velkjente til høyteknologiske AI-genererte videoer. Medieorganisasjoner har som respons utviklet håndbøker for faktasjekk av visuelt materiale. Noen er lovende, men den underliggende begrepsforståelsen som informerer dem er ikke tilfredsstillende. De begrepslige utfordringene er ikke minst fototeoretiske. PHOTOFAKE tilbyr derfor en forskningsbasert revidering av det viktigste begrepsapparatet som brukes i diskusjoner om visuell manipulasjon, justering av fotografisk genererte bilder, samt av datagenererte bilder som til forveksling ligner kamerabaserte bilder.  Et tverrfaglig team som kombinerer humanistisk ekspertise på fotografiske medier med spisskompetanse innen digital økonomi og informatikk, vil produsere retningslinjer for optimering av faktasjekkveiledninger for kamerabasert bildedannelse, for hvordan faktasjekkarbeidet som baserer seg på slike veiledninger kan optimeres, også med sikte på fremtidige utvikling av fotografiske teknologier og praksiser. PHOTOFAKE vil gjennom sin forskning bidra til å styrke medienes evne og individuelle borgeres mulighet til å forsvare en demokratisk offentlighet.

Our democracies are challenged by fake news and deliberate misinformation. The new digital economy has undermined the status of the free press as curator of public discourse and dispersed citizens to a variety of non-curated social media platforms with questionable veracity. While there are substantial ongoing research efforts on the vogue of false news which has ensued, research on the visual aspects of disinformation, exacerbated by the advent of deepfakes and related AI-alterations, is sparse. The present challenge goes beyond deepfakes. It concerns a multitude of manipulating visual materials, from the most rudimentary to the AI-altered and -generated videos of tomorrow. Media organizations now develop manuals for fact-checking visual material, and compliment these with technical verification systems. Some manuals are promising, but the basic vocabulary informing them is unsatisfactory. These conceptual problems are fundamentally photo-theoretical and require humanist competence on photographic media. PHOTOFAKE offers a research-based revision of this key vocabulary employed in discussions of photographic image alteration as well as computer-generated imagery that mimics camera-based images. An interdisciplinary team, combining basic theoretical and historical expertise from the humanities with cutting-edge expertise in digital economics and computer science, seeks to produce guidelines for the optimization of fact check guides for camera-images, and for their use, informed also by future scenarios that add resilience to the guidelines. These efforts will, at the same time, produce new insights that add more broadly to our understanding of the current information disorder.