HuggingChat Python API: Vaša brezplačna alternativa

Ponovno objavil Platon

Spremljevalci: 0

HuggingChat Python API: vaša brezplačna alternativa
Sliko ustvaril avtor z Midjourney

V zadnjem času ste videli toliko alternativ ChatGPT, vendar ste preverili HuggingChat od HuggingFace?

HuggingChat je brezplačna in odprtokodna alternativa komercialnim ponudbam klepetov, kot je ChatGPT. Teoretično bi lahko storitev izkoristila številne modele, vendar sem videl, da uporablja samo LLaMa 30B SFT 6 (oast-sft-6-llama-30b) od OpenAssistant doslej.

Izvedete lahko vse o zanimivih prizadevanjih OpenAssistanta za izgradnjo njihovega chatbota tukaj. Čeprav model morda ni na ravni GPT4, je vsekakor zmogljiv LLM z zanimivo zgodbo o usposabljanju, ki jo je vredno preveriti.

Brezplačno in odprtokodno? Sliši se super. Toda počakaj ... še več je!

Ne morete dobiti dostopa do API-ja ChatGPT4? Naveličali ste se plačati za to, tudi če lahko? Zakaj ne bi dali neuradno HuggingChat Python API poskus?

Brez ključev API. Brez prijave. Ne nič! Samo pip install hugface, nato kopirajte, prilepite in zaženite spodnji vzorčni skript iz ukazne vrstice.

#!/usr/bin/env python
# -*- coding: utf-8 -*- from hugchat import hugchat # Create a chatbot connection
chatbot = hugchat.ChatBot() # New a conversation (ignore error)
id = chatbot.new_conversation()
chatbot.change_conversation(id) # Intro message
print('[[ Welcome to ChatPAL. Let's talk! ]]')
print(''q' or 'quit' to exit')
print(''c' or 'change' to change conversation')
print(''n' or 'new' to start a new conversation') while True: user_input = input('> ') if user_input.lower() == '': pass elif user_input.lower() in ['q', 'quit']: break elif user_input.lower() in ['c', 'change']: print('Choose a conversation to switch to:') print(chatbot.get_conversation_list()) elif user_input.lower() in ['n', 'new']: print('Clean slate!') id = chatbot.new_conversation() chatbot.change_conversation(id) else: print(chatbot.chat(user_input))

Zaženi skript — ./huggingchat.py, ali kakor koli že ste poimenovali datoteko — in dobite nekaj podobnega naslednjemu (po pozdravu):

HuggingChat Python API: vaša brezplačna alternativa

Vzorčni skript barebones sprejme vhodne podatke in jih posreduje API-ju ter prikaže rezultate, ko so vrnjeni. Edina interpretacija vnosa skripta je, da poiščete ključno besedo za izhod, ključno besedo za začetek novega pogovora ali ključno besedo za spremembo v že obstoječi alternativni pogovor, ki ga že izvajate. Vse so samoumevne.

Za več informacij o knjižnici, vključno s parametri funkcije chat(), si oglejte njen repo GitHub.

Obstajajo vse vrste zanimivih primerov uporabe za API za chatbot, še posebej tisti, ki ga lahko prosto raziskujete, ne da bi pri tem udarili v vašo denarnico. Omejeni ste samo s svojo domišljijo.

Srečno kodiranje!

Matthew Mayo (@mattmayo13) je podatkovni znanstvenik in glavni urednik KDnuggets, temeljnega spletnega vira podatkovne znanosti in strojnega učenja. Njegovi interesi so obdelava naravnega jezika, oblikovanje in optimizacija algoritmov, nenadzorovano učenje, nevronske mreže in avtomatizirani pristopi k strojnemu učenju. Matthew ima magisterij iz računalništva in diplomo iz podatkovnega rudarjenja. Dosegljiv je na editor1 na kdnuggets[dot]com.