Kunnskapsroboter

Tidligere i år hadde jeg en oppgave med å skape en kunnskap bot for en plattform på bedriftsnivå. Brukerne var først og fremst ansatte i organisasjonen og intensjonen var å bruke kunnskapen bot å dele tilbudet og bruken av plattformen.

Det er ganske mange rammeverk i markedet (hver med sine egne fordeler og ulemper), derfor er det veldig viktig at man velger det riktige rammeverket avhengig av hvilken type bot du sikter mot å lage. I tilfelle av å lage kunnskapsrobotene er de typiske kravene -

1. Hovedformålet med kunnskapen bot er å gi informasjonen om tilbudet via en guidet chat. Hvis brukeren ønsker det, skal han kunne komme ut av den guidede chatten og stille adhoc-spørsmål om tilbudet og gå tilbake til den guidede chatten.

2. Kunnskapsroboten skal kunne utføre enkle oppgaver som å bestille en demo av produktet.

3. Kunnskapsroboten bør gi riktig informasjon om det valgte domenet (i dette tilfellet plattformtilbudet) riktig den første tiden i stedet for å dekke et veldig bredt domene med svar som er ~70–80 % korrekte.

4. Selv om det bør gi mulighet til å utføre NLU og forstå brukerspørsmål, men den generelle kritikaliteten til disse spørsmålene er begrenset. Som sådan er det generelt lite krav til kontekstuell chatting når det gjelder kunnskapsbot.

Jeg begynte å evaluere de tilgjengelige chatbot-rammeverket i markedet på parametrene kostnad, fleksibilitet, brukervennlighet, vedlikehold, skalerbarhet, enkel utvikling, fremtidig utvidbarhet, integrasjon, fellesskapsstøtte og nullstilt på under 2 plattformer –

i) Rasa — "Rasa er den ledende AI-plattformen for samtaler, for personlige samtaler i stor skala. Med Rasa kan alle team skape personlige, automatiserte interaksjoner med kunder, i stor skala. Rasa tilbyr infrastruktur og verktøy som er nødvendige for å bygge de aller beste assistentene – de som på en meningsfull måte forvandler hvordan kunder kommuniserer med bedrifter.» - fra Rasas nettsted.

– Viktige trekk inkluderer –

• NLU-basert, standard NLU-motor som leveres er åpen kildekode.
• Leveres med både åpen kildekode (begrensede funksjoner) og betalt bedriftslisens (flere funksjoner).
• Opprettelse av Chatbots mer tilbøyelig til utviklere.
• Støtter avanserte funksjoner som å ringe eksternt API, Intent Identification, Slot fylling etc.
• Kan legges inn på nettsiden. On-prem/Cloud-distribusjon. Oppretting av chatbots ved hjelp av historier og opplæringsdata (utviklerorientert) er ikke via nettbasert GUI-rammeverk.
• God samfunnsstøtte.
• Plattformen er bygget rundt AI, og treningsdata er nøkkelen til å forbedre ytelsen. Ikke en flytbasert så litt svart boks.

ii) Botpress — «Botpress er en åpen kildekode-plattform for utviklere for å bygge høykvalitets digitale assistenter. Vi har satt sammen standardkoden og infrastrukturen du trenger for å få en chatbot i gang. Vi foreslår deg en komplett utviklingsvennlig plattform som leveres med alle verktøyene du trenger for å bygge, distribuere og administrere chatbots i produksjonsgrad på rekordtid." - fra Botpress-siden.

– Viktige funksjoner inkluderer –-

• NLU-basert, standard NLU-motor som leveres er åpen kildekode.
• Leveres med både åpen kildekode (begrensede funksjoner) og betalt bedriftslisens (flere funksjoner).
• GUI-basert oppretting av Chatbots.
• Støtter avanserte funksjoner som å ringe eksternt API, Intent and Entity Identification, Slot fylling etc.
• Kan legges inn på nettsiden. On-prem/Cloud-distribusjon, men gir nettgrensesnitt.
• God samfunnsstøtte.
• Primært Flow-basert med støtte for NLU-evne. Debugger støtte og kontroll.

Hovedstyrken til Rasa ligger i NLU-motoren og den kontekstuelle chatteopplevelsen den tilbyr. Med kontekstuell mener jeg at hvert innspill fra brukeren tas i sammenheng med den pågående samtalen og deretter besvares. Å trene boten for å få disse samtalene riktige krever imidlertid mye innsats, beregning og ferdigheter, og etter hvert som samtaledomenet øker, øker det totale antallet historier som må skrives eksponentielt.

På den annen side bruker Botpress en blanding av AI og regelbasert motor for å skape chatteopplevelsen for brukeren. Det er ikke så sterkt på den kontekstuelle samtalen, men har et rikt GUI-tilbud for å gi veiledet informasjon.

Mens jeg var senior dataforsker, var det første jeg følte meg å gå med Rasa (du vet at det kontekstuelle AI-tilbudet høres attraktivt ut), men når jeg evaluerte fordeler og ulemper i forhold til oppgaven jeg hadde, fant jeg ut at Botpress var mer egnet for å lage kunnskapsbot med kombinasjon av regelbasert guidet tur og NLU-baserte adhoc-spørsmål (QnA-funksjon i Botpress) gitt tids- og ressursbegrensningen som vi vanligvis har i IT-prosjekter.

Nedenfor er funksjonene som Knowledge-botutviklere bør se i bot-rammeverket. Jeg har også nevnt hvordan Botpress oppfyller disse.

1. Chatbot-trendrapport 2021

2. 4 DO og 3 IKKE for å trene en Chatbot NLP-modell

3. Concierge Bot: Håndter flere chatbots fra en chat-skjerm

4. Et ekspertsystem: Conversational AI Vs Chatbots

Enkel utvikling — Hvor raskt kan du få en grunnleggende versjon av kunnskapsroboten din oppe og gå. Krever det veldig spesialisert kompetanse, eller kan til og med innbyggerdataforskerne jobbe med det? Hvor enkelt er det å gjøre en rebranding av boten?

Med Botpress kan du få en grunnleggende kunnskapsbot i gang ved å bruke GUI-en uten absolutt ingen koding i løpet av et par uker. Det tilbyr også en enkel måte å merke boten ved å bare endre stilarket. Det gir widgets som kort og karusal for å dele informasjonen på en GUI-rik måte.

Integrasjon — Bots må alltid være integrert med hovedportalen og må også støtte andre kanaler (f.eks. Microsoft Team). Når vi velger bot-rammeverket, bør vi se om disse integrasjonene er naturlig gitt og kan gjøres med minimal innsats.

I Botpress er integrasjon med hovednettstedet veldig enkelt med bare et enkelt skript for å åpne boten i en iframe. Det gir også integrasjon med andre kanaler som Facebook, Telegram, Microsoft Teams og Slack for å nevne noen.

Fremtidig utvidbarhet — Mens den innledende kunnskapsroboten kan starte med et begrenset omfang, er faktum at omfanget vil fortsette å øke når ledelsen innser fordelene. Boten er kanskje ikke lenger begrenset til å gi informasjon, men vil også forventes å gjøre enklere oppgaver som å bestille en demo osv. Derfor er det viktig at bot-rammeverket som man velger har støtte for disse funksjonene.

Botpress tilbyr utvidelser for å skrive tilpasset kode for å ringe backend-APIer for å utføre komplekse oppgaver. Funksjonene som Intent, Entity og slots brukes til å fange opp intensjonen til brukeren om å utføre en bestemt oppgave ved å identifisere den riktige enheten, fange de nødvendige verdiene ved å bruke slots og deretter få din egendefinerte kode til å kalle opp backend API for å utføre oppgavene. Disse oppgavene kan være alt fra å sende en e-post til å bestille et konferanserom eller en flybillett eller bestille en pizza.

skalerbarhet — Ofte vil du bli pålagt å bygge kunnskapsroboten for internettrafikk, og derfor er det veldig viktig at bot-rammeverket du velger kan skaleres.

Botpress har en klyngebasert horisontalt skalerbar arkitektur. Man kan utnytte en lastbalanser for å distribuere trafikk blant roboter.

vedlikeholdbarhet — Som med alle IT-prosjekter, er det aldri et scenario for distribusjon og glem. Vi lever i en verden av DevOps hvor det er en kontinuerlig distribusjon av applikasjonen i produksjonen. Derfor er det av største betydning at bot-rammeverket har en modell som omhandler skala og kompleksitet, spesielt når du leter etter en GUI-basert utvikling.

I Botpress skjer utviklingen ved å lage et flytskjema, strukturen er modulær. Den har muligheten til å lage underflyter med inngangs- og utgangspunkt definert for underflyten. På denne måten kan vi lage kunnskapsrobotene ved å bruke mange enklere, mindre flyter i stedet for én stor flyt.

NLU — Selv om guidet flyt er bra for å gi informasjonen, er ikke det alene nok. Hovedhensikten med å tilby en bot er at brukeren skal kunne chatte som om det er en person som sitter bak boten. Dette betyr at bot skal kunne forstå nyansene i språket og gi en skikkelig respons.

I Botpress er det en QnA-modul som lar deg imøtekomme tilfeldige spørsmål som brukeren måtte stille om produktet. Du kan stille flere spørsmål mot et svar og trene Botpress NLU-motoren til å nøytralisere spørsmålene mot semantikk og grammatikk. Selv om NLU-motoren ikke er så kraftig som Rasas, fant jeg ut at den passer til formålet. Vi hadde rundt 110 svar som skulle trenes opp mot ~1100 spørsmål. Etter trening fant jeg ut at NLU-motoren gjorde en anstendig jobb og ga oss de riktige svarene mer enn 97 % av tiden. Botpress NLU-motorer bruker 2 tjenester –

a) Andung – For utvinning av systemenheter som gjør det mer robust under implementering av oppgaver basert på enhet og plasser (f.eks. bestilling av pizza eller bestilling av flybillett).

b) Språkserver — Dette gir ordet innebygging og har støtte for flere språk.

Kontekstbytte — Overgangen mellom å stille Adhoc-spørsmål og ta en veiledet flyt bør være sømløs. Flytene skal ikke være veldig lange, gi brukeren pausepunkter der han kan stille spørsmålene og deretter gå tilbake til flyten når det er nødvendig.

Med bruken av funksjonen «flow wide transitions» i Botpress, kan kontekstvekslingen mellom en guidet tur og tilfeldige spørsmål implementeres enkelt. Fra spørsmål og svar-delen gir Botpress også muligheten til å gå tilbake til en node som er en del av guidet tur, og dermed tar brukeren tilbake til guidet tur.

Det er andre funksjoner ved Botpress som flerspråklig evne, Dockerization, Human In the loop, bruk av tredjeparts NLU, SSO-integrasjoner, Clustering, Monitoring and Changing, Sterk fellesskapsstøtte som kan gjøre den generelle opplevelsen mer robust.

Oppsummering — Neste gang du ønsket å bygge en kunnskapsrobot på kort tid, bør du vurdere et bot-rammeverk som utnytter både de regelbaserte og NLU-drevne motorene. Botpress er en sterk konkurrent for det samme, spesielt hvis kostnad og avkastning er en beslutningsfaktor.

Abhinav Ajmera

Senior dataforsker, Atos

Forfatterens mening er personlig og forfatteren er på ingen måte forbundet med Botpress.

Source: https://chatbotslife.com/knowledge-bots-5536c16b8d32?source=rss—-a49517e4c30b—4