Почнемо зі створення файлу, який будемо використовувати для завантаження моделі. Щоб допомогти нам, ми використовуємо Обіймає обличчя, бібліотека Python, яка надає різні високоякісні моделі НЛП.
Потім ми створюємо клас Python, який будемо використовувати для обробки логіки від перетворення нашого англійського тексту для створення наших лексем слів, які ми будемо використовувати як вхідні дані для нашої моделі.
Потім ми будуємо а Колба API з двома кінцевими точками, одна для перевірки, чи працює служба, а інша для інтеграції з нашим чат-ботом.
Нарешті ми створюємо файл Docker, який під час створення попередньо завантажуватиме модель чату, щоб, коли ми надсилаємо запит до нашого API, він міг швидко відповідати, замість того, щоб перезавантажувати модель щоразу. Це значно покращить продуктивність нашого бота. Для розміщення API ми використовуємо gunicorn як наш сервер wsgi без додаткової структури веб-сервера.
Кроки від запуску вашої моделі на локальній машині до запуску її у виробництво можуть бути складними. Однак кілька служб зробили цей крок набагато легше за останні роки.
Ми збираємося працювати з Google Cloud Run для цього проекту. «Безсерверна» платформа Google, мені не подобається слово «безсерверний», оскільки, звичайно, має бути сервер, на якому виконується код, але він безсерверний у тому сенсі, що не зберігає жодних даних клієнта від сеансу до іншого сеансу, і що ми отримуємо будь-який сервер, доступний у будь-який момент часу.
1. Звіт про тенденції чат-ботів за 2021 рік
2. 4 НЕОБХІДНІ та 3 НЕ ВИКОНАННІ для навчання моделі NLP Chatbot
3. Консьєрж-бот: обробляйте кілька чат-ботів з одного екрану чату