Viden bots

Tidligere i år havde jeg en opgave med at skabe en viden bot til en platform på virksomhedsniveau. Brugerne var primært organisationens medarbejdere og hensigten var at bruge viden bot at dele udbuddet og brugen af ​​platformen.

Der er en hel del rammer på markedet (hver med sine egne fordele og ulemper), og derfor er det meget vigtigt, at man vælger det rigtige framework afhængigt af den slags bot, som du målretter mod at skabe. I tilfælde af oprettelse af vidensbots er de typiske krav -

1. Hovedformålet med viden bot er at give informationen om tilbuddet via en guidet chat. Hvis brugeren ønsker det, skal han kunne komme ud af den guidede chat og stille adhoc spørgsmål om tilbuddet og gå tilbage til den guidede chat.

2. Videnboten skal være i stand til at udføre simple opgaver som at booke en demo af produktet.

3. Viden-bot bør give den rigtige information om det valgte domæne (i dette tilfælde platform-tilbud) korrekt i den første tid i stedet for at dække et meget bredt domæne med svar, der er ~70-80% korrekte.

4. Selvom det burde give mulighed for at udføre NLU og forstå brugerspørgsmål, er den overordnede kritik af disse spørgsmål begrænset. Som sådan er der generelt lidt krav om kontekstchat i tilfælde af vidensbot.

Jeg begyndte at evaluere de tilgængelige chatbot-rammer på markedet på parametrene omkostninger, fleksibilitet, brugervenlighed, vedligeholdelse, skalerbarhed, let udvikling, fremtidig udvidelsesmuligheder, integration, community-support og nulstillede på under 2 platforme –

i) Rasa — “Rasa er den førende konversations-AI-platform til personlige samtaler i stor skala. Med Rasa kan alle teams skabe personlige, automatiserede interaktioner med kunder i stor skala. Rasa leverer infrastruktur og værktøjer, der er nødvendige for at bygge de allerbedste assistenter - dem, der på en meningsfuld måde transformerer, hvordan kunder kommunikerer med virksomheder." — fra Rasas hjemmeside.

— Fremtrædende træk omfatter —

• NLU-baseret, standard NLU-motor, der leveres, er open source.
• Leveres med både open source (begrænsede funktioner) og betalt virksomhedslicens (flere funktioner).
• Oprettelse af chatbots, der er mere tilbøjelige til udviklere.
• Understøtter avancerede funktioner som opkald til ekstern API, Intent Identification, Slot filling osv.
• Kan integreres på hjemmesiden. On-prem/Cloud-implementering. Oprettelse af chatbots ved hjælp af historier og træningsdata (udviklerorienteret) er ikke via webbaseret GUI-ramme.
• God fællesskabsstøtte.
• Platformen er bygget op omkring AI, hvor træningsdata er nøglen til at forbedre ydeevnen. Ikke et flow baseret så lidt sort boks.

ii) Botpress — “Botpress er en open source platform for udviklere til at bygge højkvalitets digitale assistenter. Vi har sammensat den standardkode og infrastruktur, du skal bruge for at få en chatbot op at køre. Vi foreslår dig en komplet udviklervenlig platform, der leveres med alle de værktøjer, du har brug for til at bygge, implementere og administrere chatbots i produktionskvalitet på rekordtid." - fra Botpress-webstedet.

— Fremtrædende træk omfatter –-

• NLU-baseret, standard NLU-motor, der leveres, er open source.
• Leveres med både open source (begrænsede funktioner) og betalt virksomhedslicens (flere funktioner).
• GUI baseret skabelse af Chatbots.
• Understøtter avancerede funktioner som opkald til ekstern API, Intent and Entity Identification, Slot filling osv.
• Kan integreres på hjemmesiden. On-prem/Cloud-implementering, men leverer webgrænseflade.
• God fællesskabsstøtte.
• Primært Flow-baseret med understøttelse af NLU-kapacitet. Debugger support og kontrol.

Den største styrke ved Rasa ligger i dens NLU-motor og den kontekstuelle chatoplevelse, den tilbyder. Med kontekstuel mener jeg, at hvert input fra bruger tages i sammenhæng med den igangværende samtale og derefter besvares. Men at træne botten til at få disse samtaler rigtigt kræver en masse indsats, beregning og færdigheder, og efterhånden som samtaledomænet øges, stiger det samlede antal historier, der skal skrives, eksponentielt.

På den anden side bruger Botpress en blanding af AI og regelbaseret motor til at skabe chatoplevelsen for brugeren. Det er ikke så stærkt på den kontekstuelle samtale, men har et rigt GUI-tilbud til at give guidet information.

Mens jeg var Senior Data Scientist, var min første følelse at gå med Rasa (du ved, at det kontekstuelle AI-tilbud lyder attraktivt), men da jeg vurderede fordele og ulemper i forhold til den aktuelle opgave, fandt jeg, at Botpress var mere egnet til at skabe vidensbot med kombination af regelbaseret guidet tur og NLU-baserede adhoc-spørgsmål (QnA feature of Botpress) givet den tids- og ressourcebegrænsning, som vi normalt har i it-projekter.

Nedenfor er de funktioner, som Knowledge-botudviklere bør se i bot-rammen. Jeg har også nævnt, hvordan Botpress opfylder dem.

1. Chatbot-trendsrapport 2021

2. 4 DO's og 3 DON'T'er for at træne en Chatbot NLP-model

3. Concierge Bot: Håndter flere chatbots fra én chatskærm

4. Et ekspertsystem: Conversational AI Vs Chatbots

Nem udvikling — Hvor hurtigt kan du få en grundlæggende version af din vidensbot op at køre. Kræver det et meget specialiseret kvalifikationssæt, eller kan borgerens dataforskere arbejde med det? Hvor nemt er det at lave en rebranding af botten?

Med Botpress kan du få en grundlæggende vidensbot op at køre ved hjælp af dens GUI uden absolut ingen kodning om et par uger. Det tilbyder også en enkel måde at mærke botten ved blot at ændre stilarket. Det giver widgets såsom kort og karusal til at dele oplysningerne på en GUI rig måde.

Integration — Bots skal altid være integreret med hovedportalen og skal også understøtte andre kanaler (f.eks. Microsoft Team). Mens vi vælger bot-rammen, bør vi se, om disse integrationer er indbygget og kan udføres med minimal indsats.

I Botpress er integration med hovedsiden meget let med kun et enkelt script til at åbne botten i en iframe. Det giver også integration med andre kanaler såsom Facebook, Telegram, Microsoft Teams og Slack for at nævne nogle få.

Fremtidig udvidelse — Selvom den indledende vidensbot måske starter med et begrænset omfang, er det faktum, at omfanget vil blive ved med at stige, når ledelsen indser fordelene. Botten er måske ikke længere begrænset til at give information, men ville også forventes at udføre enklere opgaver som at booke en demo osv. Derfor er det vigtigt, at den bot-ramme, man vælger, understøtter disse funktioner.

Botpress leverer udvidelser til at skrive tilpasset kode til at kalde backend API'er for at udføre komplekse opgaver. Funktionerne såsom Intent, Entity og slots bruges til at fange brugerens intention om at udføre en bestemt opgave ved at identificere den rigtige enhed, fange de nødvendige værdier ved hjælp af slots og derefter få din brugerdefinerede kode til at kalde back-end API for at udføre opgaverne. Disse opgaver kan være lige fra at sende en e-mail til at bestille et mødelokale eller en flybillet eller bestille en pizza.

Skalerbarhed — Ofte vil du blive bedt om at bygge vidensboten til internettrafik, og derfor er det meget vigtigt, at den botramme, du vælger, kan skaleres.

Botpress har en klyngebaseret horisontalt skalerbar arkitektur. Man kan udnytte en load balancer til at fordele trafik blandt bots.

Maintainability — Som med alle it-projekter er det aldrig et scenarie for implementering og glem. Vi lever i en verden af ​​DevOps, hvor der er en kontinuerlig udrulning af applikationen i produktionen. Derfor er det af afgørende betydning, at bot-rammen har en model, der beskæftiger sig med skala og kompleksitet, især når du leder efter en GUI-baseret udvikling.

I Botpress sker udviklingen ved at lave et flowdiagram, strukturen er modulopbygget. Den har evnen til at skabe underflows med indgangs- og udgangspunkt defineret for underflowet. På denne måde kan vi skabe vidensbots ved hjælp af mange enklere, mindre flows i stedet for et stort flow.

NLU — Selvom guidet flow er godt til at give informationen, er det alene ikke nok. Hovedhensigten med at levere en bot er, at brugeren skal være i stand til at chatte, som om der sidder en person bag botten. Det betyder, at bot skal kunne forstå sprogets nuancer og give et ordentligt svar.

I Botpress er der et QnA-modul, som giver dig mulighed for at imødekomme tilfældige spørgsmål, som brugeren måtte stille om produktet. Du kan stille flere spørgsmål mod et svar og træne Botpress NLU-motoren til at neutralisere spørgsmålene mod semantik og grammatik. Selvom NLU-motoren ikke er så kraftig som Rasas, fandt jeg ud af, at den passer til formålet. Vi havde omkring 110 svar, der skulle trænes mod ~1100 spørgsmål. Efter træning fandt jeg ud af, at NLU-motoren gjorde et anstændigt stykke arbejde og gav os de rigtige svar mere end 97 % af tiden. Botpress NLU-motorer gør brug af 2 tjenester –

a) Ælling — Til udvinding af systemenheder, der gør det mere robust under implementering af opgaver baseret på entitet og slots (f.eks. bestilling af en pizza eller booking af en flybillet).

b) Sprogserver — Denne giver ordet indlejringer og understøtter flere sprog.

Kontekstskift — Overgangen mellem at stille adhoc-spørgsmål og tage et guidet flow bør være problemfri. Strømmene bør ikke være særlig lange, give brugeren et pausepunkt, hvor han kan stille spørgsmålene og derefter gå tilbage til flowet, når det er nødvendigt.

Med brugen af ​​'flow-wide overgange'-funktionen i Botpress, kan kontekstskifte mellem en guidet tur og tilfældige spørgsmål implementeres nemt. Fra spørgsmål og svar sektionen giver Botpress også mulighed for at gå tilbage til en node, som er en del af guidet tur, og dermed tage brugeren tilbage til guidet tur.

Der er andre funktioner i Botpress såsom flersproget evne, Dockerization, Human In the loop, ved hjælp af 3rd Party NLU, SSO integrationer, Clustering, Monitoring and Changing, Stærk community support, som kan gøre den samlede oplevelse mere robust.

Resumé — Næste gang du ville bygge en vidensbot på kort tid, så overvej en botramme, der udnytter både de regelbaserede og NLU-drevne motorer. Botpress er en stærk konkurrent til det samme, især hvis omkostninger og ROI er en beslutningsfaktor.

Abhinav Ajmera

Senior dataforsker, Atos

Forfatterens mening er personlig, og forfatteren er på ingen måde forbundet med Botpress.

Source: https://chatbotslife.com/knowledge-bots-5536c16b8d32?source=rss—-a49517e4c30b—4