CL4-Digital, Industry and Space

Artificial Intelligence (AI) is increasingly used in the employment sector to manage and control individual workers. One type of AI is Natural Language Processing (NLP) based tools that can analyze text to make inferences or decisions. A recent Sage study found that 24% of companies used AI for hiring purposes. In an employment context, this can involve analyzing text created by an employee or recruitment candidate in order to assist management in deciding to invite a candidate for an interview, to training and employee engagement, or to monitor for infractions that could lead to disciplinary proceedings. However, the models that NLP-based systems are based on are biased. Additionally, it has been shown that bias in an underlying AI model is reproduced in applications based on that model). This can lead to biased decisions that run contrary to the goals of the European Pillar of Social Rights in relationship to work and employment, specifically Pillar 2 (Gender Equality), Pillar 3 (Equal Opportunity), Pillar 5 (Secure and Adaptable Employment) and the United Nations’ (UN) Sustainable Development Goals (SDGs), specifically SDG 5 (Gender Equality), SDG 8 (Decent Work and Economic Growth). It is therefore necessary to identify and mitigate biases that occur in applications used in a Human Resources Management (HRM) context. Addressing such concerns in an employment context is especially relevant, as most existing European studies on employment discrimination have indeed found that discrimination exists, both when considering individual diversity criteria and multiple criteria in intersectional analyses. In order to investigate and mitigate these biases, we apply this “BIAS”-project, for mitigating diversity biases of AI in the labor market. The chief technical objective of BIAS is the development of a proof-of-concept for an innovative technology based on Natural Language Processing (NLP) and Case Based Reasoning (CBR) for use in an HR recruitment use case.

Budsjettformål:

CL4-Digital, Industry and Space

748,6MILL. KRtotalt tildelt i programperioden 137PROSJEKTERhar fått tildeling i programperioden 1KILDEhar finansiert programmet

Finansieringskilder

Temaer og emner

Bransjer og næringer Velferd, kultur og samfunn Muliggjørende teknologier Innovasjon Forskningsinfrastruktur Digitalisering og bruk av IKT Privat sektor Portefølje Velferd og utdanning LTP3 Uttesting og kommersialisering av FoU Industri og tjenestenæringer FNs Bærekraftsmål Mål 8 Anstendig arbeid og økonomisk vekst Velferd, kultur og samfunn Arbeid IKT forskningsområde Menneske, samfunn og teknologi Arbeid Forskningsinfrastruktur Digitalisering og bruk av IKT Velferd, kultur og samfunn Arbeidsmarked Internasjonalisering Internasjonalt prosjektsamarbeid Arbeid Arbeidsmarked IKT forskningsområde LTP3 Styrket konkurransekraft og innovasjonsevne Verifisering, pilotering, demonstrasjon (ny fra 2014)IKT forskningsområde Kunstig intelligens, maskinlæring og dataanalyse Innovasjon Arbeidsliv - Politikk og forvaltning Portefølje Muliggjørende teknologier Anvendt forskning Politikk- og forvaltningsområder Innovasjon Næring og handel Bransjer og næringer IKT-næringen Innovasjon i offentlig sektor Arbeidsliv - Politikk og forvaltning Politikk- og forvaltningsområder Justis og rettsvesen Innovasjon i offentlig sektor Justis og rettsvesen Digitalisering og bruk av IKT Innovasjon i offentlig sektor Næring og handel Digitalisering og bruk av IKT Offentlig sektor Politikk- og forvaltningsområder Likestilling og inkludering Internasjonalisering FNs Bærekraftsmål Velferd, kultur og samfunn Mål 5 Likestilling mellom kjønnene FNs Bærekraftsmål Mål 5 Likestilling mellom kjønnene Muliggjørende teknologier Digitalisering og bruk av IKT Forskningsinfrastruktur IKT forskningsområde Portefølje Forskningssystemet IKT forskningsområde Programvarer og tjenester Industri og tjenestenæringer IKT forskningsområde Industri og tjenestenæringer IKT-næringen Innovasjon Justis og rettsvesen LTP3 Et kunnskapsintensivt næringsliv i hele landet LTP3 IKT og digital transformasjon LTP3 Muliggjørende og industrielle teknologier Muliggjørende teknologier IKT forskningsområde Politikk- og forvaltningsområder Arbeidsliv - Politikk og forvaltning Politikk- og forvaltningsområder Digitalisering Politikk- og forvaltningsområder Forskning Politikk- og forvaltningsområder Næring og handel Portefølje Innovasjon

CL4-Digital, Industry and Space

Mitigating Diversity Biases of AI in the Labor Market

Tildelt: kr 11,3 mill.

Populærvitenskapelig framstilling

Sammendrag

Budsjettformål:

CL4-Digital, Industry and Space

Finansieringskilder

Temaer og emner