Tilbake til søkeresultatene

CL4-Digital, Industry and Space

Mitigating Diversity Biases of AI in the Labor Market

Tildelt: kr 11,3 mill.

Artificial Intelligence (AI) is increasingly used in the employment sector to manage and control individual workers. One type of AI is Natural Language Processing (NLP) based tools that can analyze text to make inferences or decisions. A recent Sage study found that 24% of companies used AI for hiring purposes. In an employment context, this can involve analyzing text created by an employee or recruitment candidate in order to assist management in deciding to invite a candidate for an interview, to training and employee engagement, or to monitor for infractions that could lead to disciplinary proceedings. However, the models that NLP-based systems are based on are biased. Additionally, it has been shown that bias in an underlying AI model is reproduced in applications based on that model). This can lead to biased decisions that run contrary to the goals of the European Pillar of Social Rights in relationship to work and employment, specifically Pillar 2 (Gender Equality), Pillar 3 (Equal Opportunity), Pillar 5 (Secure and Adaptable Employment) and the United Nations’ (UN) Sustainable Development Goals (SDGs), specifically SDG 5 (Gender Equality), SDG 8 (Decent Work and Economic Growth). It is therefore necessary to identify and mitigate biases that occur in applications used in a Human Resources Management (HRM) context. Addressing such concerns in an employment context is especially relevant, as most existing European studies on employment discrimination have indeed found that discrimination exists, both when considering individual diversity criteria and multiple criteria in intersectional analyses. In order to investigate and mitigate these biases, we apply this “BIAS”-project, for mitigating diversity biases of AI in the labor market. The chief technical objective of BIAS is the development of a proof-of-concept for an innovative technology based on Natural Language Processing (NLP) and Case Based Reasoning (CBR) for use in an HR recruitment use case.

Budsjettformål:

CL4-Digital, Industry and Space

Finansieringskilder

Temaer og emner

LTP3 Styrket konkurransekraft og innovasjonsevneInternasjonaliseringInternasjonalt prosjektsamarbeidAnvendt forskningPolitikk- og forvaltningsområderJustis og rettsvesenFNs BærekraftsmålBransjer og næringerIKT forskningsområdeVerifisering, pilotering, demonstrasjon (ny fra 2014)IKT forskningsområdeProgramvarer og tjenesterIKT forskningsområdeKunstig intelligens, maskinlæring og dataanalyseBransjer og næringerIKT-næringenInnovasjon i offentlig sektorArbeidsliv - Politikk og forvaltningInnovasjonJustis og rettsvesenInnovasjonArbeidsliv - Politikk og forvaltningVelferd, kultur og samfunnMål 5 Likestilling mellom kjønnenePolitikk- og forvaltningsområderNæring og handelPortefølje Velferd og utdanningArbeidMuliggjørende teknologierDigitalisering og bruk av IKTForskningsinfrastrukturIKT forskningsområdePolitikk- og forvaltningsområderIndustri og tjenestenæringerIKT-næringenLTP3 IKT og digital transformasjonLTP3 Muliggjørende og industrielle teknologierLTP3 Uttesting og kommersialisering av FoUArbeidArbeidsmarkedInnovasjonFNs BærekraftsmålMål 8 Anstendig arbeid og økonomisk vekstPortefølje InnovasjonDigitalisering og bruk av IKTIndustri og tjenestenæringerDigitalisering og bruk av IKTOffentlig sektorPolitikk- og forvaltningsområderArbeidsliv - Politikk og forvaltningInternasjonaliseringDigitalisering og bruk av IKTPrivat sektorLTP3 Et kunnskapsintensivt næringsliv i hele landetPolitikk- og forvaltningsområderForskningVelferd, kultur og samfunnPolitikk- og forvaltningsområderLikestilling og inkluderingForskningsinfrastrukturDigitalisering og bruk av IKTPortefølje ForskningssystemetIKT forskningsområdeMenneske, samfunn og teknologiVelferd, kultur og samfunnArbeidVelferd, kultur og samfunnArbeidsmarkedMuliggjørende teknologierIKT forskningsområdeForskningsinfrastrukturPolitikk- og forvaltningsområderDigitaliseringInnovasjonNæring og handelInnovasjon i offentlig sektorNæring og handelPortefølje Muliggjørende teknologierIndustri og tjenestenæringerIKT forskningsområdeMuliggjørende teknologierInnovasjon i offentlig sektorJustis og rettsvesenFNs BærekraftsmålMål 5 Likestilling mellom kjønnene