Tilbake til søkeresultatene

BIA-Brukerstyrt innovasjonsarena

EXPLAIN: Explainable AI for automated fact-checking and additional insight - when facts are not enough

Alternativ tittel: EXPLAIN: Forklarbar AI for automatisert faktasjekking og ytterligere innsikt - når fakta ikke er nok

Tildelt: kr 6,3 mill.

Prosjektnummer:

337133

Prosjektperiode:

2022 - 2024

Midlene er mottatt fra:

Samarbeidsland:

Factiverse initierer et innovasjonsprosjektet med formål å automatisere gjenkjenning av feilinformasjon og desinformasjon, og gi en faktasjekking for all elektronisk informasjon med banebrytende AI og NLP. Prosjektet vil integrere forklarbar AI og ytterligere datakilder i selskapets AI-editor og programvare for å bidra til robust forskning, nyhetsproduksjon og nyhetskonsum. I dag er Factiverses algoritmer i stand til å vise om en påstand er omstridt eller ikke. B2B-beslutningstakere trenger imidlertid også troverdig innsikt i hvilke mekanismer som ligger bak AI-modeller for å oppdage partisk eller manglende data, eller rett og slett for å justere algoritmer. Det er stadig viktigere for mange bransjer å avmystifisere “black box” AI-modeller. Løsningen vil implementere ML-modeller som er agnostiske for spesifikke NLP-oppgaver, men der forklarbarhet er inkludert som en del av designet. Vi vil implementere både lokale og globale forklaringsmetoder for å forstå valgene og svakhetene til ML-modeller. Ved å foredle bruken av AI-drevne systemer, er det også viktig å forstå risikoen ved å implementere en modell allerede før en initierer brukerinteraksjon. Av denne grunn har vi identifisert et gap i eksisterende verktøy for feilsøking og overvåking av ML-modeller - og argumenterer for at forklarbarhet bør bygges inn i disse verktøyene. Factiverse er den naturlige prosjekteieren og administrativt ansvarlig part - med også de største insentivene knyttet til vellykkede resultater. Prosjektplanen er modnet sammen med partnere både i medie- og finansbransjen for å inkludere sluttbrukerperspektiver, krav og operasjonell innsikt. Et spesielt fokus er rettet mot å redusere de negative effektene fra feilinformasjon og desinformasjon på bærekraft og grønn omstilling.

Factiverse’s mission is to automate detection of misinformation and deliberate disinformation, and provide a credibility check for any online information by using cutting-edge AI and NLP. The proposed project will integrate explanations of AI decisions and data sources into the company’s AI editor and software tools, catering to research, news production, and news consumption. Today Factiverse’s algorithms are able to show whether a claim is disputed or not, however B2B-decision makers need credible insight into what decisions lie behind AI-models to detect biased data, lack of data or simply to tune algorithms. It is increasingly important for many industries to demystify the black box of AI-models. The solution will implement ML models which are agnostic to specific NLP tasks but provide explanations and are interpretable by design. We will implement both local and global explanation methods to understand the behavior and weaknesses of the ML models. When refining the use of AI-powered systems, it is also important to understand the risks of deploying a model even before user interaction. For this purpose, we have identified a gap in existing tools for debugging and monitoring ML models - arguing that explainability should be built into these tools. Stakeholders include newsrooms, investment companies, industry associations and authorities, as well as online newsreaders and society at large. A successful development and commercialization effort would unlock a significant national and international market opportunity. Fact-checking is a relatively new industry, and a knowledge-based value chain is emerging. The project's research challenges are anchored with prospective future clients both from the media and financial industry. A particular focus is directed to curb the negative effects of misinformation and disinformation on sustainability and the green transition.

Budsjettformål:

BIA-Brukerstyrt innovasjonsarena