BitTorrent za jezikovne modele

V starih časih interneta je FTP zadostoval za občasni prenos datoteke. Toda s široko uporabo računalniškega zvoka in videa je bilo preprosto preplaviti strežnik FTP, tako da se je na koncu rodil BitTorrent. Zamisel je bila, da bi prenesli delčke datoteke z različnih krajev in teoretično bi ljudje prenesli delčke, ki jih imate, če jih potrebujejo. zdaj Cvetni listi želi uporabiti isto metodo z jezikovnimi modeli. Ti jezikovni modeli AI so v modi, vendar zahtevajo precejšnje računalniške vire. Ideja za Petals je kot BitTorrent. Vi upravljate z majhnim delom modela (približno 8 gigabajtov, kar je malo v primerjavi s potrebnimi 352 gigabajti), drugi ljudje pa imajo druge dele.

Seveda, če skrbite za zasebnost, to pomeni, da gredo nekateri vaši podatki v javnost, vendar za vaše najnovejše poskuse chatbota to morda ne bo velik problem. Petale lahko namestite v okolje Anaconda ali zaženete sliko Docker, če ne želite ničesar nastaviti. Če želite samo dostopati do klepetalnice porazdeljenega omrežja, ki temelji na BLOOMZ-176B, lahko naredi to na spletu.

Ker omrežje obdeluje žetone, je klepet z napravo nekoliko sunkovit, z opaznimi premori med besedami. Pisalo je, da lahko povečate hitrost s povezavo GPE. Tukaj je prepis:

Hackaday: Koliko vozlišč vas gosti? AI: Dva tisoč šeststo triindevetdeset Hackaday: Ali poznate hackaday.com? AI: Ja, seveda. Hackaday: kaj je to? AI: To je spletno mesto za hekerje in geeke. Hackaday: Kako bi napisali program Arduino za utripanje LED? AI: Uporabiti morate jezik Arduino in ustvariti skico, ki se lahko naloži na ploščo Arduino. Hackaday: Ali lahko napišete ta program? AI: Ne

Torej predvidevamo, da so naše službe za zdaj varne. Kljub temu, če želite eksperimentirati z lastnimi modeli po meri, ki temeljijo na BLOOM ali BLOOMZ, je to hiter način za začetek, ne da bi potrebovali farmo strežnikov. The vadniški zvezek vam bo pomagalo začeti. Če želite kopati globoko, obstaja beli papir.

Skrbi nas varnost modela, tako da bo njegova razdelitev nekatere napade olajšala in nekatere otežila, si predstavljamo. Ne vemo, ali smo zaupajte kateremu koli od njih, da požene krožno žago po našem dvorišču pa še.

• Distribucija vsebine in PR s pomočjo SEO. Okrepite se še danes.
• Platoblockchain. Web3 Metaverse Intelligence. Razširjeno znanje. Dostopite tukaj.
• vir: https://hackaday.com/2023/03/21/bittorrent-for-language-models/