Gambar oleh Penulis
Tutorial singkat ini akan membuat chatbot sederhana menggunakan model Microsoft DialogPT, Hugging Face Space, dan interferensi Gradio. Anda akan dapat mengembangkan dan menyesuaikan aplikasi Anda sendiri dalam 5 menit menggunakan teknik serupa.
- Pergi ke hf.co dan buat akun gratis. Setelah itu, klik pada Anda menampilkan gambar di kanan atas dan pilih opsi "Ruang Baru".
- Isi formulir dengan Nama aplikasi, Lisensi, Perangkat keras luar angkasa, dan visibilitas.
Gambar dari Luar Angkasa
- Tekan "Buat Ruang" untuk menginisialisasi aplikasi.
- Anda dapat mengkloning repositori dan mendorong file dari sistem lokal Anda atau membuat dan mengedit file di Hugging Face menggunakan browser.
Gambar dari Bot Obrolan AI
Kami akan mengklik tab "File". > + Tambahkan berkas > Buat file baru.
Gambar dari kingabzpro/AI-ChatBot
Membuat Gradio antarmuka. Anda dapat menyalin kode saya.
Gambar dari app.py
Saya telah memuat tokenizer dan model "microsoft/DialogPT-large" dan membuat fungsi `prediksi` untuk mendapatkan respons dan membuat riwayat.
from transformers import AutoModelForCausalLM, AutoTokenizer
import gradio as gr
import torch title = "🤖AI ChatBot"
description = "A State-of-the-Art Large-scale Pretrained Response generation model (DialoGPT)"
examples = [["How are you?"]] tokenizer = AutoTokenizer.from_pretrained("microsoft/DialoGPT-large")
model = AutoModelForCausalLM.from_pretrained("microsoft/DialoGPT-large") def predict(input, history=[]): # tokenize the new input sentence new_user_input_ids = tokenizer.encode( input + tokenizer.eos_token, return_tensors="pt" ) # append the new user input tokens to the chat history bot_input_ids = torch.cat([torch.LongTensor(history), new_user_input_ids], dim=-1) # generate a response history = model.generate( bot_input_ids, max_length=4000, pad_token_id=tokenizer.eos_token_id ).tolist() # convert the tokens to text, and then split the responses into lines response = tokenizer.decode(history[0]).split("|endoftext|>") # print('decoded_response-->>'+str(response)) response = [ (response[i], response[i + 1]) for i in range(0, len(response) - 1, 2) ] # convert to tuples of list # print('response-->>'+str(response)) return response, history gr.Interface( fn=predict, title=title, description=description, examples=examples, inputs=["text", "state"], outputs=["chatbot", "state"], theme="finlaymacklon/boxy_violet",
).launch()
Selain itu, saya telah menyediakan aplikasi saya dengan tema khusus: kotak_ungu. Anda dapat menelusuri Gradio Galeri Tema untuk memilih tema sesuai selera anda.
Sekarang, kita perlu membuat file `requirement.txt` dan menambahkan paket Python yang diperlukan.
Gambar dari requirement.txt
transformers
torch
Setelah itu, aplikasi Anda akan mulai dibuat, dan dalam beberapa menit, aplikasi akan mengunduh model dan memuat inferensi model.
Aplikasi Gradio terlihat mengagumkan. Kita hanya perlu membuat fungsi `prediksi` untuk setiap arsitek model yang berbeda untuk mendapatkan respons dan mempertahankan histori.
Sekarang Anda dapat mengobrol dan berinteraksi dengan aplikasi di kingabzpro/AI-ChatBot atau sematkan aplikasi Anda di situs web menggunakan https://kingabzpro-ai-chatbot.hf.space.
Gambar dari kingabzpro/AI-ChatBot
Apakah Anda masih bingung? Cari ratusan aplikasi chatbot di Spaces untuk mendapatkan inspirasi dan memahami inferensi model.
Misalnya, jika Anda memiliki mode yang disesuaikan dengan “LLaMA-7B”. Cari untuk model dan gulir ke bawah untuk melihat berbagai implementasi model.
Gambar dari penelitian decapoda/llama-7b-hf
Kesimpulannya, blog ini memberikan tutorial cepat dan mudah membuat AI chatbot menggunakan Hugging Face dan Gradio hanya dalam 5 menit. Dengan petunjuk langkah demi langkah dan opsi yang dapat disesuaikan, siapa pun dapat dengan mudah membuat chatbot mereka sendiri.
Itu menyenangkan, dan saya harap Anda telah belajar sesuatu. Silakan bagikan demo Gradio Anda di bagian komentar. Jika Anda mencari solusi yang lebih sederhana, periksa OpenChat: Platform Gratis & Sederhana untuk Membuat Chatbot Khusus dalam Hitungan Menit.
Abi Ali Awan (@1abidaliawan) adalah ilmuwan data profesional bersertifikat yang suka membuat model pembelajaran mesin. Saat ini, ia berfokus pada pembuatan konten dan penulisan blog teknis tentang pembelajaran mesin dan teknologi ilmu data. Abid memiliki gelar Magister Manajemen Teknologi dan gelar Sarjana Teknik Telekomunikasi. Visinya adalah untuk membangun produk AI menggunakan jaringan saraf grafik untuk siswa yang berjuang dengan penyakit mental.
- Konten Bertenaga SEO & Distribusi PR. Dapatkan Amplifikasi Hari Ini.
- PlatoData.Jaringan Vertikal Generatif Ai. Berdayakan Diri Anda. Akses Di Sini.
- PlatoAiStream. Intelijen Web3. Pengetahuan Diperkuat. Akses Di Sini.
- PlatoESG. Otomotif / EV, Karbon, teknologi bersih, energi, Lingkungan Hidup, Tenaga surya, Penanganan limbah. Akses Di Sini.
- BlockOffset. Modernisasi Kepemilikan Offset Lingkungan. Akses Di Sini.
- Sumber: https://www.kdnuggets.com/2023/06/build-ai-chatbot-5-minutes-hugging-face-gradio.html?utm_source=rss&utm_medium=rss&utm_campaign=build-ai-chatbot-in-5-minutes-with-hugging-face-and-gradio
- :adalah
- 1
- 31
- a
- Sanggup
- Menurut
- Akun
- menambahkan
- Setelah
- AI
- AI chatbot
- an
- dan
- siapapun
- aplikasi
- Aplikasi
- aplikasi
- ADALAH
- AS
- BE
- Blog
- blog
- Browser
- membangun
- Bangunan
- by
- CAN
- Tersertifikasi
- ChatBot
- chatbots
- memeriksa
- Klik
- kode
- komentar
- kesimpulan
- bingung
- Konten
- pembuatan konten
- mengubah
- membuat
- dibuat
- membuat
- penciptaan
- Sekarang
- adat
- disesuaikan
- menyesuaikan
- disesuaikan
- data
- ilmu data
- ilmuwan data
- Derajat
- Demo
- deskripsi
- mengembangkan
- berbeda
- turun
- Download
- mudah
- Mudah
- menanamkan
- Teknik
- Eter (ETH)
- Bahkan
- Setiap
- contoh
- contoh
- Menghadapi
- beberapa
- File
- File
- berfokus
- Untuk
- bentuk
- Gratis
- dari
- kesenangan
- fungsi
- menghasilkan
- generasi
- mendapatkan
- mendapatkan
- grafik
- Jaringan Saraf Grafik
- Perangkat keras
- Memiliki
- he
- -nya
- sejarah
- memegang
- berharap
- Seterpercayaapakah Olymp Trade? Kesimpulan
- HTML
- HTTPS
- Ratusan
- i
- if
- penyakit
- mengimpor
- in
- memasukkan
- Inspirasi
- instruksi
- berinteraksi
- Antarmuka
- ke
- IT
- hanya
- KDnugget
- besar-besaran
- belajar
- pengetahuan
- lisensi
- baris
- Daftar
- memuat
- lokal
- melihat
- mencari
- TERLIHAT
- mencintai
- mesin
- Mesin belajar
- memelihara
- pengelolaan
- menguasai
- mental yang
- Penyakit kejiwaan
- Microsoft
- menit
- mode
- model
- model
- my
- nama
- Perlu
- jaringan
- saraf
- saraf jaringan
- New
- sekarang
- of
- on
- pilihan
- Opsi
- or
- di luar
- sendiri
- paket
- Platform
- plato
- Kecerdasan Data Plato
- Data Plato
- silahkan
- Produk
- profesional
- disediakan
- menyediakan
- Dorong
- Ular sanca
- Cepat
- gudang
- wajib
- tanggapan
- tanggapan
- kembali
- benar
- s
- Ilmu
- ilmuwan
- gulir
- Pencarian
- Bagian
- melihat
- putusan pengadilan
- Share
- Pendek
- mirip
- Sederhana
- larutan
- sesuatu
- Space
- membagi
- awal
- Negara
- state-of-the-art
- Masih
- Berjuang
- Siswa
- sistem
- rasa
- Teknis
- Teknologi
- Teknologi
- telekomunikasi
- bahwa
- Grafik
- mereka
- tema
- kemudian
- ini
- Judul
- untuk
- tokenisasi
- Token
- puncak
- obor
- transformer
- tutorial
- memahami
- Pengguna
- menggunakan
- berbagai
- jarak penglihatan
- penglihatan
- adalah
- we
- Situs Web
- SIAPA
- akan
- dengan
- dalam
- penulisan
- kamu
- Anda
- zephyrnet.dll