Billede af forfatter
Denne korte tutorial vil bygge en simpel chatbot ved hjælp af Microsoft DialoGPT-modellen, Hugging Face Space og Gradio-interferens. Du vil være i stand til at udvikle og tilpasse din egen app på 5 minutter ved hjælp af en lignende teknik.
- Gå til hf.co og opret en gratis konto. Derefter skal du klikke på din vise billede øverst til højre og vælg "Nyt plads".
- Udfyld formularen med appnavn, licens, pladshardware og synlighed.
Billede fra rummet
- Tryk på "Create Space" for at initialisere applikationen.
- Du kan klone depotet og skubbe filerne fra dit lokale system eller oprette og redigere filer på Hugging Face ved hjælp af browseren.
Billede fra AI ChatBot
Vi klikker på fanen "Filer". > + Tilføj fil > Opret en ny fil.
Billede fra kingabzpro/AI-ChatBot
Opret en Gradio interface. Du kan kopiere min kode.
Billede fra app.py
Jeg har indlæst "microsoft/DialoGPT-large" tokenizer og model og oprettet en 'forudsig' funktion til at få svaret og oprette historikken.
from transformers import AutoModelForCausalLM, AutoTokenizer
import gradio as gr
import torch title = "🤖AI ChatBot"
description = "A State-of-the-Art Large-scale Pretrained Response generation model (DialoGPT)"
examples = [["How are you?"]] tokenizer = AutoTokenizer.from_pretrained("microsoft/DialoGPT-large")
model = AutoModelForCausalLM.from_pretrained("microsoft/DialoGPT-large") def predict(input, history=[]): # tokenize the new input sentence new_user_input_ids = tokenizer.encode( input + tokenizer.eos_token, return_tensors="pt" ) # append the new user input tokens to the chat history bot_input_ids = torch.cat([torch.LongTensor(history), new_user_input_ids], dim=-1) # generate a response history = model.generate( bot_input_ids, max_length=4000, pad_token_id=tokenizer.eos_token_id ).tolist() # convert the tokens to text, and then split the responses into lines response = tokenizer.decode(history[0]).split("|endoftext|>") # print('decoded_response-->>'+str(response)) response = [ (response[i], response[i + 1]) for i in range(0, len(response) - 1, 2) ] # convert to tuples of list # print('response-->>'+str(response)) return response, history gr.Interface( fn=predict, title=title, description=description, examples=examples, inputs=["text", "state"], outputs=["chatbot", "state"], theme="finlaymacklon/boxy_violet",
).launch()
Desuden har jeg forsynet min app med et tilpasset tema: boxy_violet. Du kan gennemse Gradio Temagalleri for at vælge temaet efter din smag.
Nu skal vi oprette en `requirement.txt`-fil og tilføje de nødvendige Python-pakker.
Billede fra krav.txt
transformers
torch
Derefter begynder din app at bygge, og inden for et par minutter vil den downloade modellen og indlæse modelslutningen.
Gradio-appen ser fantastisk ud. Vi skal bare oprette en 'forudsig'-funktion for hver anden modelarkitekt for at få svar og vedligeholde historien.
Du kan nu chatte og interagere med en app på kingabzpro/AI-ChatBot eller indlejr din app på dit websted ved hjælp af https://kingabzpro-ai-chatbot.hf.space.
Billede fra kingabzpro/AI-ChatBot
Er du stadig forvirret? Se efter hundredvis af chatbot-apps på Spaces at få inspiration og forstå modelslutningen.
For eksempel, hvis du har en tilstand, der er finjusteret på "LLaMA-7B". Søg efter model og rul ned for at se forskellige implementeringer af modellen.
Billede fra decapoda-research/llama-7b-hf
Afslutningsvis giver denne blog en hurtig og nem vejledning om at oprette en AI-chatbot ved hjælp af Hugging Face og Gradio på kun 5 minutter. Med trin-for-trin instruktioner og tilpassede muligheder kan enhver nemt oprette deres chatbot.
Det var sjovt, og jeg håber, du har lært noget. Del venligst din Gradio-demo i kommentarfeltet. Hvis du leder efter en endnu enklere løsning, så tjek ud OpenChat: Den gratis og enkle platform til at bygge brugerdefinerede chatbots på få minutter.
Abid Ali Awan (@1abidaliawan) er en certificeret dataforsker, der elsker at bygge maskinlæringsmodeller. I øjeblikket fokuserer han på indholdsskabelse og skriver tekniske blogs om maskinlæring og datavidenskabsteknologier. Abid har en kandidatgrad i teknologiledelse og en bachelorgrad i telekommunikationsingeniør. Hans vision er at bygge et AI-produkt ved hjælp af et grafisk neuralt netværk til studerende, der kæmper med psykisk sygdom.
- SEO Powered Content & PR Distribution. Bliv forstærket i dag.
- PlatoData.Network Vertical Generative Ai. Styrk dig selv. Adgang her.
- PlatoAiStream. Web3 intelligens. Viden forstærket. Adgang her.
- PlatoESG. Automotive/elbiler, Kulstof, CleanTech, Energi, Miljø, Solenergi, Affaldshåndtering. Adgang her.
- BlockOffsets. Modernisering af miljømæssig offset-ejerskab. Adgang her.
- Kilde: https://www.kdnuggets.com/2023/06/build-ai-chatbot-5-minutes-hugging-face-gradio.html?utm_source=rss&utm_medium=rss&utm_campaign=build-ai-chatbot-in-5-minutes-with-hugging-face-and-gradio
- :er
- 1
- 31
- a
- I stand
- Ifølge
- Konto
- tilføje
- Efter
- AI
- AI chatbot
- an
- ,
- nogen
- app
- Anvendelse
- apps
- ER
- AS
- BE
- Blog
- blogs
- browser
- bygge
- Bygning
- by
- CAN
- Certificeret
- chatbot
- chatbots
- kontrollere
- klik
- kode
- KOMMENTAR
- konklusion
- forvirret
- indhold
- indholdsskabelse
- konvertere
- skabe
- oprettet
- Oprettelse af
- skabelse
- For øjeblikket
- skik
- tilpasses
- tilpasse
- tilpassede
- data
- datalogi
- dataforsker
- Degree
- Demo
- beskrivelse
- udvikle
- forskellige
- ned
- downloade
- nemt
- let
- Integrer
- Engineering
- Ether (ETH)
- Endog
- Hver
- eksempel
- eksempler
- Ansigtet
- få
- File (Felt)
- Filer
- fokusering
- Til
- formular
- Gratis
- fra
- sjovt
- funktion
- generere
- generation
- få
- få
- graf
- Graf neuralt netværk
- Hardware
- Have
- he
- hans
- historie
- besidder
- håber
- Hvordan
- HTML
- HTTPS
- Hundreder
- i
- if
- sygdom
- importere
- in
- indgang
- Inspiration
- anvisninger
- interagere
- grænseflade
- ind
- IT
- lige
- KDnuggets
- storstilet
- lærte
- læring
- Licens
- linjer
- Liste
- belastning
- lokale
- Se
- leder
- UDSEENDE
- elsker
- maskine
- machine learning
- vedligeholde
- ledelse
- Master
- mentale
- Psykisk sygdom
- microsoft
- minutter
- tilstand
- model
- modeller
- my
- navn
- Behov
- netværk
- Neural
- neurale netværk
- Ny
- nu
- of
- on
- Option
- Indstillinger
- or
- ud
- egen
- pakker
- perron
- plato
- Platon Data Intelligence
- PlatoData
- Vær venlig
- Produkt
- professionel
- forudsat
- giver
- Skub ud
- Python
- Hurtig
- Repository
- påkrævet
- svar
- reaktioner
- afkast
- højre
- s
- Videnskab
- Videnskabsmand
- rulle
- Søg
- Sektion
- se
- dømme
- Del
- Kort
- lignende
- Simpelt
- løsninger
- noget
- Space
- delt
- starte
- Tilstand
- state-of-the-art
- Stadig
- Kæmper
- Studerende
- systemet
- smag
- Teknisk
- Teknologier
- Teknologier
- telekommunikation
- at
- deres
- tema
- derefter
- denne
- Titel
- til
- tokenisere
- Tokens
- top
- fakkel
- transformers
- tutorial
- forstå
- Bruger
- ved brug af
- forskellige
- synlighed
- vision
- var
- we
- Hjemmeside
- WHO
- vilje
- med
- inden for
- skrivning
- dig
- Din
- zephyrnet