Зображення автора
У цьому короткому посібнику буде створено простий чат-бот за допомогою моделі Microsoft DialoGPT, простору Hugging Face Space і інтерференції Gradio. Ви зможете розробити та налаштувати власний додаток за 5 хвилин, використовуючи аналогічну техніку.
- До hf.co і створити безкоштовний обліковий запис. Після цього натисніть на ваш відображення зображення угорі праворуч і виберіть опцію «Новий простір».
- Заповніть форму, вказавши назву програми, ліцензію, апаратне забезпечення Space та видимість.
Зображення з космосу
- Натисніть «Create Space», щоб ініціалізувати програму.
- Ви можете клонувати репозиторій і надсилати файли з локальної системи або створювати та редагувати файли на Hugging Face за допомогою браузера.
Зображення з AI ChatBot
Клацніть вкладку «Файли». > + Додати файл > Створіть новий файл.
Зображення з kingabzpro/AI-ChatBot
Створити Градіо інтерфейс. Ви можете скопіювати мій код.
Зображення з app.py
Я завантажив токенізер і модель «microsoft/DialoGPT-large» і створив функцію «predict» для отримання відповіді та створення історії.
from transformers import AutoModelForCausalLM, AutoTokenizer
import gradio as gr
import torch title = "🤖AI ChatBot"
description = "A State-of-the-Art Large-scale Pretrained Response generation model (DialoGPT)"
examples = [["How are you?"]] tokenizer = AutoTokenizer.from_pretrained("microsoft/DialoGPT-large")
model = AutoModelForCausalLM.from_pretrained("microsoft/DialoGPT-large") def predict(input, history=[]): # tokenize the new input sentence new_user_input_ids = tokenizer.encode( input + tokenizer.eos_token, return_tensors="pt" ) # append the new user input tokens to the chat history bot_input_ids = torch.cat([torch.LongTensor(history), new_user_input_ids], dim=-1) # generate a response history = model.generate( bot_input_ids, max_length=4000, pad_token_id=tokenizer.eos_token_id ).tolist() # convert the tokens to text, and then split the responses into lines response = tokenizer.decode(history[0]).split("|endoftext|>") # print('decoded_response-->>'+str(response)) response = [ (response[i], response[i + 1]) for i in range(0, len(response) - 1, 2) ] # convert to tuples of list # print('response-->>'+str(response)) return response, history gr.Interface( fn=predict, title=title, description=description, examples=examples, inputs=["text", "state"], outputs=["chatbot", "state"], theme="finlaymacklon/boxy_violet",
).launch()
Крім того, я надав своєму додатку спеціальну тему: boxy_violet. Ви можете переглядати Gradio Тематична галерея вибрати тему на свій смак.
Тепер нам потрібно створити файл `requirement.txt` і додати необхідні пакети Python.
Зображення з вимоги.txt
transformers
torch
Після цього ваша програма почне будувати, і протягом кількох хвилин вона завантажить модель і завантажить висновок моделі.
Додаток Gradio виглядає приголомшливо. Нам просто потрібно створити функцію `predict` для кожного архітектора моделі, щоб отримувати відповіді та зберігати історію.
Тепер ви можете спілкуватися в чаті та взаємодіяти з програмою на kingabzpro/AI-ChatBot або вставте свою програму на свій веб-сайт за допомогою https://kingabzpro-ai-chatbot.hf.space.
Зображення з kingabzpro/AI-ChatBot
Ви все ще розгублені? Шукайте сотні програм чат-ботів на Приміщення щоб отримати натхнення та зрозуміти висновок моделі.
Наприклад, якщо у вас є режим, точно налаштований на «LLaMA-7B». Пошук для модель і прокрутіть вниз, щоб побачити різні реалізації моделі.
Зображення з decapoda-research/llama-7b-hf
На завершення, цей блог містить швидкий і простий посібник зі створення чат-бота AI за допомогою Hugging Face і Gradio всього за 5 хвилин. Завдяки покроковим інструкціям і настроюваним параметрам кожен може легко створити свого чат-бота.
Це було весело, і я сподіваюся, що ви чогось навчилися. Поділіться своєю демонстрацією Gradio у розділі коментарів. Якщо ви шукаєте ще простіше рішення, перевірте OpenChat: безкоштовна та проста платформа для створення індивідуальних чат-ботів за лічені хвилини.
Абід Алі Аван (@1abidaliawan) є сертифікованим фахівцем із дослідження даних, який любить створювати моделі машинного навчання. Зараз він зосереджується на створенні контенту та написанні технічних блогів про технології машинного навчання та науки про дані. Абід має ступінь магістра з управління технологіями та ступінь бакалавра в галузі телекомунікаційної інженерії. Його бачення полягає в тому, щоб створити продукт AI з використанням нейронної мережі графа для студентів, які борються з психічними захворюваннями.
- Розповсюдження контенту та PR на основі SEO. Отримайте посилення сьогодні.
- PlatoData.Network Vertical Generative Ai. Додайте собі сили. Доступ тут.
- PlatoAiStream. Web3 Intelligence. Розширення знань. Доступ тут.
- ПлатонЕСГ. Автомобільні / електромобілі, вуглець, CleanTech, Енергія, Навколишнє середовище, Сонячна, Поводження з відходами. Доступ тут.
- BlockOffsets. Модернізація екологічної компенсаційної власності. Доступ тут.
- джерело: https://www.kdnuggets.com/2023/06/build-ai-chatbot-5-minutes-hugging-face-gradio.html?utm_source=rss&utm_medium=rss&utm_campaign=build-ai-chatbot-in-5-minutes-with-hugging-face-and-gradio
- :є
- 1
- 31
- a
- Здатний
- За
- рахунки
- додавати
- після
- AI
- AI чат
- an
- та
- будь
- додаток
- додаток
- додатка
- ЕСТЬ
- AS
- BE
- Блог
- блоги
- браузер
- будувати
- Створюємо
- by
- CAN
- Сертифікований
- Chatbot
- chatbots
- перевірка
- клацання
- код
- коментар
- висновок
- спутаний
- зміст
- контент-створення
- конвертувати
- створювати
- створений
- створення
- створення
- В даний час
- виготовлений на замовлення
- настроюється
- налаштувати
- налаштувати
- дані
- наука про дані
- вчений даних
- Ступінь
- Демонстрація
- description
- розвивати
- різний
- вниз
- скачати
- легко
- легко
- Вставляти
- Машинобудування
- Ефір (ETH)
- Навіть
- Кожен
- приклад
- Приклади
- Face
- кілька
- філе
- Файли
- фокусування
- для
- форма
- Безкоштовна
- від
- веселощі
- функція
- породжувати
- покоління
- отримати
- отримання
- графік
- Графік нейронної мережі
- апаратні засоби
- Мати
- he
- його
- історія
- тримає
- надія
- Як
- HTML
- HTTPS
- Сотні
- i
- if
- хвороба
- імпорт
- in
- вхід
- натхнення
- інструкції
- взаємодіяти
- інтерфейс
- в
- IT
- просто
- KDnuggets
- масштабний
- вчений
- вивчення
- Ліцензія
- ліній
- список
- загрузка
- місцевий
- подивитися
- шукати
- ВИГЛЯДИ
- любить
- машина
- навчання за допомогою машини
- підтримувати
- управління
- майстер
- психічний
- Психічні розлади
- Microsoft
- протокол
- режим
- модель
- Моделі
- my
- ім'я
- Необхідність
- мережу
- Нейронний
- нейронної мережі
- Нові
- зараз
- of
- on
- варіант
- Опції
- or
- з
- власний
- пакети
- платформа
- plato
- Інформація про дані Платона
- PlatoData
- будь ласка
- Product
- професійний
- за умови
- забезпечує
- Штовхати
- Python
- Швидко
- Сховище
- вимагається
- відповідь
- відповіді
- повертати
- право
- s
- наука
- вчений
- прокрутки
- Пошук
- розділ
- побачити
- пропозиція
- Поділитись
- Короткий
- аналогічний
- простий
- рішення
- що в сім'ї щось
- Простір
- розкол
- старт
- стан
- впроваджений
- Як і раніше
- Бореться
- Студентам
- система
- ключі
- технічний
- Технології
- Технологія
- телекомунікації
- Що
- Команда
- їх
- тема
- потім
- це
- назва
- до
- токенізувати
- Жетони
- топ
- факел
- Трансформатори
- підручник
- розуміти
- користувач
- використання
- різний
- видимість
- бачення
- було
- we
- веб-сайт
- ВООЗ
- волі
- з
- в
- лист
- ви
- вашу
- зефірнет