CL4-Digital, Industry and Space

Artificial Intelligence (AI) is increasingly used in the employment sector to manage and control individual workers. One type of AI is Natural Language Processing (NLP) based tools that can analyze text to make inferences or decisions. A recent Sage study found that 24% of companies used AI for hiring purposes. In an employment context, this can involve analyzing text created by an employee or recruitment candidate in order to assist management in deciding to invite a candidate for an interview, to training and employee engagement, or to monitor for infractions that could lead to disciplinary proceedings. However, the models that NLP-based systems are based on are biased. Additionally, it has been shown that bias in an underlying AI model is reproduced in applications based on that model). This can lead to biased decisions that run contrary to the goals of the European Pillar of Social Rights in relationship to work and employment, specifically Pillar 2 (Gender Equality), Pillar 3 (Equal Opportunity), Pillar 5 (Secure and Adaptable Employment) and the United Nations’ (UN) Sustainable Development Goals (SDGs), specifically SDG 5 (Gender Equality), SDG 8 (Decent Work and Economic Growth). It is therefore necessary to identify and mitigate biases that occur in applications used in a Human Resources Management (HRM) context. Addressing such concerns in an employment context is especially relevant, as most existing European studies on employment discrimination have indeed found that discrimination exists, both when considering individual diversity criteria and multiple criteria in intersectional analyses. In order to investigate and mitigate these biases, we apply this “BIAS”-project, for mitigating diversity biases of AI in the labor market. The chief technical objective of BIAS is the development of a proof-of-concept for an innovative technology based on Natural Language Processing (NLP) and Case Based Reasoning (CBR) for use in an HR recruitment use case.

Funding scheme:

CL4-Digital, Industry and Space

748.6MILL. NOKtotal funding in the programme period 137PROJECTShave received funding in the programme period 1SOURCEhas financed the programme

Funding Sources

Thematic Areas and Topics

Innovasjon i offentlig sektor Justis og rettsvesen LTP3 Styrket konkurransekraft og innovasjonsevne Politikk- og forvaltningsområder Næring og handel LTP3 Muliggjørende og industrielle teknologier Politikk- og forvaltningsområder Internasjonalisering Internasjonalt prosjektsamarbeid FNs Bærekraftsmål Politikk- og forvaltningsområder Justis og rettsvesen Arbeid Arbeidsmarked Arbeid Bransjer og næringer IKT-næringen Anvendt forskning Forskningsinfrastruktur IKT forskningsområde Industri og tjenestenæringer IKT-næringen Bransjer og næringer Verifisering, pilotering, demonstrasjon (ny fra 2014)IKT forskningsområde Kunstig intelligens, maskinlæring og dataanalyse IKT forskningsområde Programvarer og tjenester Innovasjon i offentlig sektor Arbeidsliv - Politikk og forvaltning Innovasjon Arbeidsliv - Politikk og forvaltning Portefølje Velferd og utdanning Digitalisering og bruk av IKT Innovasjon FNs Bærekraftsmål Mål 8 Anstendig arbeid og økonomisk vekst LTP3 Uttesting og kommersialisering av FoU Portefølje Innovasjon LTP3 Et kunnskapsintensivt næringsliv i hele landet LTP3 IKT og digital transformasjon Industri og tjenestenæringer Digitalisering og bruk av IKT Privat sektor Politikk- og forvaltningsområder Likestilling og inkludering Politikk- og forvaltningsområder Arbeidsliv - Politikk og forvaltning Internasjonalisering Digitalisering og bruk av IKT Offentlig sektor Velferd, kultur og samfunn Politikk- og forvaltningsområder Forskning Portefølje Forskningssystemet Forskningsinfrastruktur Digitalisering og bruk av IKT Velferd, kultur og samfunn Arbeid IKT forskningsområde Menneske, samfunn og teknologi Muliggjørende teknologier IKT forskningsområde Forskningsinfrastruktur Velferd, kultur og samfunn Arbeidsmarked Portefølje Muliggjørende teknologier Innovasjon Næring og handel Innovasjon i offentlig sektor Næring og handel Industri og tjenestenæringer IKT forskningsområde IKT forskningsområde Muliggjørende teknologier Politikk- og forvaltningsområder Digitalisering Velferd, kultur og samfunn Mål 5 Likestilling mellom kjønnene FNs Bærekraftsmål Mål 5 Likestilling mellom kjønnene Muliggjørende teknologier Digitalisering og bruk av IKT Innovasjon Justis og rettsvesen

CL4-Digital, Industry and Space

Mitigating Diversity Biases of AI in the Labor Market

Awarded: NOK 11.3 mill.

Popular Science Description

Summary

Funding scheme:

CL4-Digital, Industry and Space

Funding Sources

Thematic Areas and Topics