HuggingChat Python API: Ditt kostnadsfrie alternativ

Publisert av Platon

Følgere: 0

HuggingChat Python API: Ditt kostnadsfrie alternativ
Bilde laget av forfatter med Midjourney

Du har sett så mange alternativer til ChatGPT i det siste, men har du sjekket ut HuggingChat fra HuggingFace?

HuggingChat er et gratis og åpen kildekode-alternativ til kommersielle chat-tilbud som ChatGPT. I teorien kan tjenesten utnytte en rekke modeller, men jeg har bare sett den bruke LLaMa 30B SFT 6 (oast-sft-6-llama-30b) fra OpenAssistant så langt.

Du kan finne ut alt om OpenAssistants interessante innsats for å bygge chatboten deres her.. Selv om modellen kanskje ikke er på GPT4-nivå, er den definitivt en dyktig LLM med en interessant treningshistorie som er verdt å sjekke ut.

Gratis og åpen kildekode? Høres bra ut. Men vent... det er mer!

Får du ikke tilgang til ChatGPT4 API? Lei av å betale for det selv om du kan? Hvorfor ikke gi den uoffisielle HuggingChat Python API et forsøk?

Ingen API-nøkler. Ingen påmelding. Nei ingenting! Bare pip install hugface, kopier, lim inn og kjør eksempelskriptet nedenfor fra kommandolinjen.

#!/usr/bin/env python
# -*- coding: utf-8 -*- from hugchat import hugchat # Create a chatbot connection
chatbot = hugchat.ChatBot() # New a conversation (ignore error)
id = chatbot.new_conversation()
chatbot.change_conversation(id) # Intro message
print('[[ Welcome to ChatPAL. Let's talk! ]]')
print(''q' or 'quit' to exit')
print(''c' or 'change' to change conversation')
print(''n' or 'new' to start a new conversation') while True: user_input = input('> ') if user_input.lower() == '': pass elif user_input.lower() in ['q', 'quit']: break elif user_input.lower() in ['c', 'change']: print('Choose a conversation to switch to:') print(chatbot.get_conversation_list()) elif user_input.lower() in ['n', 'new']: print('Clean slate!') id = chatbot.new_conversation() chatbot.change_conversation(id) else: print(chatbot.chat(user_input))

Kjør skriptet - ./huggingchat.py, eller hva du kalte filen - og få noe sånt som følgende (etter å ha sagt hei):

HuggingChat Python API: Ditt kostnadsfrie alternativ

Barebones-eksempelskriptet tar innspill og sender det til API, og viser resultatene etter hvert som de returneres. Den eneste tolkningen av input fra skriptet er å se etter et nøkkelord for å avslutte, et nøkkelord for å starte en ny samtale, eller et nøkkelord for å endre til en allerede eksisterende alternativ samtale som du allerede har i gang. Alle er selvforklarende.

For mer informasjon om biblioteket, inkludert chat()-funksjonsparameterne, sjekk ut GitHub-repoen.

Det er alle slags interessante brukstilfeller for en chatbot API, spesielt en som du kan utforske uten å treffe lommeboken. Du er bare begrenset av fantasien din.

God koding!

Matthew Mayo (@mattmayo13) er en dataforsker og sjefredaktør for KDnuggets, den banebrytende online ressursen for datavitenskap og maskinlæring. Hans interesser ligger i naturlig språkbehandling, algoritmedesign og -optimalisering, uovervåket læring, nevrale nettverk og automatiserte tilnærminger til maskinlæring. Matthew har en mastergrad i informatikk og et diplom i data mining. Han kan nås på editor1 på kdnuggets[dot]com.