Enabling Flexible Conversational AI by Integrating Large Language Models

I en stadig mer hektisk verden, hvor sektorer som bank, forsikring og telekom i økende grad støtter seg på teknologi, har samtalebasert AI etablert seg som en sentral komponent innen kundeservice. Til tross for teknologiens enorme potensial, gjenstår det betydelige utfordringer. Samtalebasert AI oppfattes ofte som rigide og upersonlig, noe som kan resultere i en dårlig brukeropplevelse. Dette representerer en betydelig utfordring for bedrifter som Boost.ai hvor målet er å levere top notch kundeservice gjennom samtalebasert AI. Vi vet at denne teknologien har ett enormt uforløst potensialet, og ved hjelp av store språkmodeller som GPT4 skal vi ta samtalebaster AI til nye høyder! Disse språkmodellene har en utrolig evne til å forstå og kommunisere i naturlig språk. I dette prosjektet skal vi derfor integrere store språkmodeller i plattformen vår, og med det tar vi sikte på å maksimere potensialet til samtalebasert AI. Målet vårt er helt enkelt å gjøre samtalebasert AI smartere, mer fleksible, pålitelige og brukervennlige. Dette prosjektet handler ikke bare om å gjøre samtalebasert AI bedre. Det handler om å transformere kundeservice slik vi kjenner den. Dette er lettere sagt en gjort, og utfordringene er mange. For eksempel: til hvilket formål kan vi ta i bruk store språkmodeller, hvordan kan vi sikre at de er pålitelige, og ikke minst – hvordan kan vi holde øye med effekten denne teknologien har på våre kunder? For å møte slike utfordringer har vi slått oss sammen med store navn som Telenor, SR-Bank, Tryg og SINTEF. Vi har mye arbeid foran oss. I 2024 vil vi fokusere på å identifisere viktige og riktige use cases. Ikke minst, avdekke hvordan store språkmodeller best kan brukes for å støtte disse. Dette betyr massevis av brukerundersøkelser, konseptarbeid, testing og ... repetisjon. Vi må legge ned murstein for murstein mens vi heletiden har kundene og deres behov i fokus.

Service providers in banking, insurance, and telecom have largely adopted conversational AI for customer service. However, approximately 40% of end-users find conversational AI frustrating due to inflexibility and generic responses. This poses a challenge for conversational AI providers like boost.ai, as dissatisfaction hinders user experience, erodes trust, and hampers automation. The challenge has profound impact on the value created within the industry. In 2024 alone, the unexplored value in automation potential is projected at 300MNOK. If left unaddressed, untapped value will exponentially grow, reaching 1700MNOK by 2027 and 4300MNOK by 2029. To capture this value, boost.ai sees promise in integrating foundational large language models (LLMs), like GPT-3 and -4, into their platform as these demonstrate impressive flexibility and contextual adaptability. However, realization of the innovation hinges on unresolved research challenges related to identifying LLM use cases, designing trustworthy LLM integrations, assessing LLM model performance, and monitoring LLM business performance. The project aims to solve these challenges and enable human-centered, trustworthy deployment of LLM integration in the boost.ai platform, thereby enhancing conversational AI for customer service and strengthen customer experience. The project will yield two innovations in the form of new products and services: (1) the development of domain-adapted, dependable, and trustworthy LLM integrations with monitoring features, and (2) comprehensive framework and methodologies for scoping use cases, human-centered conversational designs, and assessments of LLMs The project team to solve these challenges includes Boost.ai in collaboration with Telenor, Sparebank 1 SR-Bank, Tryg, and SINTEF. The innovation will establish boost.ai as an internationally leading provider of conversational AI and enable service providers to offer LLM-powered conversational AI for superior customer service.