Vi starter med at lave en fil, som vi skal bruge til at downloade modellen. For at hjælpe os bruger vi Knusende ansigt, et pythonbibliotek, der leverer forskellige højkvalitets NLP-modeller.
Derefter opretter vi en python-klasse, som vi vil bruge til at håndtere logikken fra at konvertere vores engelske tekst til at skabe vores ord-tokens, som vi vil bruge som input til vores model.
Så bygger vi en Flask API med to endepunkter, et til at tjekke om tjenesten virker og et til at integrere med vores chatbot.
Til sidst genererer vi en Dockerfile, der, når den bygges, vil forhåndsdownloade chatmodellen, så når vi sender en anmodning til vores API, kan den lave hurtige svar i stedet for at genindlæse modellen hver eneste gang. Dette vil drastisk forbedre ydeevnen af vores bot. Til at være vært for API'en bruger vi gunicorn som vores wsgi-server uden yderligere webserverramme.
Trinene fra at køre din model på din lokale maskine til at få den til at køre i produktion kan se skræmmende. Men flere tjenester har gjort dette trin meget lettere i de seneste år.
Vi skal arbejde med google cloud run for dette projekt. Googles "serverløse" platform, jeg kan ikke lide ordet serverløs, da der selvfølgelig skal være en server, der kører koden, men den er serverløs i den forstand, at den ikke gemmer nogen klientdata fra session til en anden session og at vi får den server, der er tilgængelig til enhver tid.
2. 4 DO's og 3 DON'T'er for at træne en Chatbot NLP-model