Afbeelding door auteur
Deze korte tutorial bouwt een eenvoudige chatbot met behulp van het Microsoft DialoGPT-model, Hugging Face Space en Gradio-interferentie. Met een vergelijkbare techniek kunt u in 5 minuten uw eigen app ontwikkelen en aanpassen.
- Ga naar hf.co en maak een gratis account aan. Klik daarna op uw Beeld weergeven rechtsboven en selecteer de optie "Nieuwe ruimte".
- Vul het formulier in met app-naam, licentie, Space-hardware en zichtbaarheid.
Afbeelding vanuit de ruimte
- Druk op "Create Space" om de applicatie te initialiseren.
- U kunt de repository klonen en de bestanden van uw lokale systeem pushen of bestanden maken en bewerken op Hugging Face met behulp van de browser.
Afbeelding van AI-chatbot
We klikken op het tabblad "Bestanden". > + Bestand toevoegen > Maak een nieuw bestand.
Afbeelding van kingabzpro/AI-ChatBot
Maak een Gradio koppel. Je kunt mijn code kopiëren.
Afbeelding van app.py
Ik heb de "microsoft/DialoGPT-large" tokenizer en het model geladen en een 'predict'-functie gemaakt om het antwoord te krijgen en de geschiedenis te maken.
from transformers import AutoModelForCausalLM, AutoTokenizer
import gradio as gr
import torch title = "🤖AI ChatBot"
description = "A State-of-the-Art Large-scale Pretrained Response generation model (DialoGPT)"
examples = [["How are you?"]] tokenizer = AutoTokenizer.from_pretrained("microsoft/DialoGPT-large")
model = AutoModelForCausalLM.from_pretrained("microsoft/DialoGPT-large") def predict(input, history=[]): # tokenize the new input sentence new_user_input_ids = tokenizer.encode( input + tokenizer.eos_token, return_tensors="pt" ) # append the new user input tokens to the chat history bot_input_ids = torch.cat([torch.LongTensor(history), new_user_input_ids], dim=-1) # generate a response history = model.generate( bot_input_ids, max_length=4000, pad_token_id=tokenizer.eos_token_id ).tolist() # convert the tokens to text, and then split the responses into lines response = tokenizer.decode(history[0]).split("|endoftext|>") # print('decoded_response-->>'+str(response)) response = [ (response[i], response[i + 1]) for i in range(0, len(response) - 1, 2) ] # convert to tuples of list # print('response-->>'+str(response)) return response, history gr.Interface( fn=predict, title=title, description=description, examples=examples, inputs=["text", "state"], outputs=["chatbot", "state"], theme="finlaymacklon/boxy_violet",
).launch()
Bovendien heb ik mijn app voorzien van een thema op maat: boxy_violet. U kunt door Gradio bladeren Themagalerij om het thema naar uw smaak te selecteren.
Nu moeten we een `requirement.txt`-bestand maken en de vereiste Python-pakketten toevoegen.
Afbeelding van requirements.txt
transformers
torch
Daarna begint uw app met bouwen en binnen een paar minuten wordt het model gedownload en de modelinferentie geladen.
De Gradio-app ziet er geweldig uit. We hoeven alleen maar een 'predict'-functie te maken voor elke verschillende modelarchitect om reacties te krijgen en de geschiedenis bij te houden.
U kunt nu chatten en communiceren met een app kingabzpro/AI-ChatBot of sluit uw app in op uw website met behulp van https://kingabzpro-ai-chatbot.hf.space.
Afbeelding van kingabzpro/AI-ChatBot
Ben je nog steeds in de war? Zoek naar honderden chatbot-apps op Ruimtes om inspiratie op te doen en de gevolgtrekking van het model te begrijpen.
Als je bijvoorbeeld een modus hebt die is afgestemd op "LLaMA-7B". Zoek naar de model en scroll naar beneden om verschillende implementaties van het model te zien.
Afbeelding van decapoda-onderzoek/lama-7b-hf
Tot slot biedt deze blog een snelle en eenvoudige tutorial over het maken van een AI-chatbot met Hugging Face en Gradio in slechts 5 minuten. Met stapsgewijze instructies en aanpasbare opties kan iedereen eenvoudig zijn eigen chatbot maken.
Het was leuk en ik hoop dat je iets hebt geleerd. Deel uw Gradio-demo in het commentaargedeelte. Als u op zoek bent naar een nog eenvoudigere oplossing, bekijk dan OpenChat: het gratis en eenvoudige platform voor het bouwen van aangepaste chatbots in enkele minuten.
Abid Ali Awan (@1abidaliawan) is een gecertificeerde datawetenschapper-professional die dol is op het bouwen van machine learning-modellen. Momenteel richt hij zich op het creëren van content en het schrijven van technische blogs over machine learning en data science-technologieën. Abid heeft een Master in Technologie Management en een Bachelor in Telecommunicatie Engineering. Zijn visie is om een AI-product te bouwen met behulp van een grafisch neuraal netwerk voor studenten die worstelen met een psychische aandoening.
- Door SEO aangedreven content en PR-distributie. Word vandaag nog versterkt.
- PlatoData.Network Verticale generatieve AI. Versterk jezelf. Toegang hier.
- PlatoAiStream. Web3-intelligentie. Kennis versterkt. Toegang hier.
- PlatoESG. Automotive / EV's, carbon, CleanTech, Energie, Milieu, Zonne, Afvalbeheer. Toegang hier.
- BlockOffsets. Eigendom voor milieucompensatie moderniseren. Toegang hier.
- Bron: https://www.kdnuggets.com/2023/06/build-ai-chatbot-5-minutes-hugging-face-gradio.html?utm_source=rss&utm_medium=rss&utm_campaign=build-ai-chatbot-in-5-minutes-with-hugging-face-and-gradio
- :is
- 1
- 31
- a
- in staat
- Volgens
- Account
- toevoegen
- Na
- AI
- AI chatbot
- an
- en
- iedereen
- gebruiken
- Aanvraag
- apps
- ZIJN
- AS
- BE
- Blog
- blogs
- browser
- bouw
- Gebouw
- by
- CAN
- Certified
- Chatbot
- chatbots
- controle
- Klik
- code
- commentaar
- conclusie
- verward
- content
- content creatie
- converteren
- en je merk te creëren
- aangemaakt
- Wij creëren
- het aanmaken
- Op dit moment
- gewoonte
- aanpasbare
- aan te passen
- aangepaste
- gegevens
- data science
- data scientist
- Mate
- Demo
- beschrijving
- ontwikkelen
- anders
- beneden
- Download
- gemakkelijk
- En het is heel gemakkelijk
- insluiten
- Engineering
- Ether (ETH)
- Zelfs
- Alle
- voorbeeld
- voorbeelden
- Gezicht
- weinig
- Dien in
- Bestanden
- gericht
- Voor
- formulier
- Gratis
- oppompen van
- leuke
- functie
- voortbrengen
- generatie
- krijgen
- het krijgen van
- diagram
- Grafiek neuraal netwerk
- Hardware
- Hebben
- he
- zijn
- geschiedenis
- houdt
- hoop
- Hoe
- HTML
- HTTPS
- Honderden
- i
- if
- ziekte
- importeren
- in
- invoer
- Inspiratie
- instructies
- interactie
- Interface
- in
- IT
- voor slechts
- KDnuggets
- grootschalig
- geleerd
- leren
- Licentie
- lijnen
- Lijst
- laden
- lokaal
- Kijk
- op zoek
- LOOKS
- houdt
- machine
- machine learning
- onderhouden
- management
- meester
- mentaal
- Geestelijke ziekte
- Microsoft
- minuten
- Mode
- model
- modellen
- my
- naam
- Noodzaak
- netwerk
- Neural
- neuraal netwerk
- New
- nu
- of
- on
- Keuze
- Opties
- or
- uit
- het te bezitten.
- Paketten
- platform
- Plato
- Plato gegevensintelligentie
- PlatoData
- dan
- Product
- professioneel
- mits
- biedt
- Duwen
- Python
- Quick
- bewaarplaats
- nodig
- antwoord
- reacties
- terugkeer
- rechts
- s
- Wetenschap
- Wetenschapper
- rol
- Ontdek
- sectie
- zien
- zin
- Delen
- Bermuda's
- gelijk
- Eenvoudig
- oplossing
- iets
- Tussenruimte
- spleet
- begin
- Land
- state-of-the-art
- Still
- Worstelen
- Leerlingen
- system
- smaak
- Technisch
- Technologies
- Technologie
- telecommunicatieverbinding
- dat
- De
- hun
- thema
- harte
- dit
- Titel
- naar
- tokenize
- tokens
- top
- fakkel
- transformers
- zelfstudie
- begrijpen
- Gebruiker
- gebruik
- divers
- zichtbaarheid
- visie
- was
- we
- Website
- WIE
- wil
- Met
- binnen
- het schrijven van
- u
- Your
- zephyrnet