모델을 다운로드하는 데 사용할 파일을 만드는 것으로 시작합니다. 우리를 돕기 위해 우리는 허깅 페이스, 다양한 고품질 NLP 모델을 제공하는 Python 라이브러리입니다.
그런 다음 모델의 입력으로 사용할 단어 토큰을 만들기 위해 영어 텍스트를 변환하는 논리를 처리하는 데 사용할 Python 클래스를 만듭니다.
그런 다음 우리는 플라스크 두 개의 엔드 포인트가있는 API, 하나는 서비스가 작동하는지 확인하기위한 것이고 다른 하나는 우리의 챗봇과 통합하기위한 것입니다.
마지막으로 빌드 할 때 채팅 모델을 미리 다운로드하는 Dockerfile을 생성하여 API에 요청을 보낼 때 매번 모델을 다시로드하는 대신 빠르게 응답 할 수 있도록합니다. 이렇게하면 봇의 성능이 크게 향상됩니다. API를 호스팅하기 위해 추가 웹 서버 프레임 워크없이 gunicorn을 wsgi 서버로 사용합니다.
로컬 머신에서 모델을 실행하여 프로덕션 환경에서 실행하는 단계는 어려울 수 있습니다. 그러나 최근 몇 년 동안 여러 서비스에서이 단계를 훨씬 쉽게 수행했습니다.
우리는 함께 일할 것입니다 구글 클라우드 런 이 프로젝트를 위해. Google의 "서버리스"플랫폼, 서버리스라는 단어는 당연히 코드를 실행하는 서버가 있어야하기 때문에 싫어하지만 세션에서 다른 세션으로 클라이언트 데이터를 저장하지 않는다는 점에서 서버리스입니다. 주어진 시간에 사용 가능한 서버를 얻습니다.
2. 챗봇 NLP 모델 훈련을위한 4 가지해야 할 일과하지 말아야 할 것 3 가지