A Gensyn Protokoll megbízhatóan neurális hálózatokat képez hiperskálán, alacsonyabb nagyságrenddel…

Időbélyeg: 21. március 2022. 8:57
Forrás csomópont: 1225331

A Gensyn Protokoll megbízhatóan oktatja a neurális hálózatokat hiperskálán, alacsonyabb költségnagyságrenddel

linkek: Gensyn weboldal, Litepaper, CoinFund portfólió, TechCrunch cikk Link

Befektetési szakdolgozat összefoglalója

  • Világi tőkeáttétel az ML növekvő összetettségéhez és értékéhez: A legkorszerűbb mesterséges intelligencia rendszerek számítási összetettsége 3 havonta megduplázódik, miközben ezeknek a modelleknek az értéke továbbra is gyorsan növekszik, miközben ezen algoritmusok korábbi feketedobozos jellege ma már egyre jobban illeszkedik a nagyobb teljesítményekhez. ember számára érthető megvilágítók.
  • Újszerű koordinációs és ellenőrzési rendszer tervezése: A Gensyn olyan ellenőrző rendszert épít (a testnet v1-et még ebben az évben telepítik), amely hatékonyan megoldja az állapotfüggőségi problémát a neurális hálózatok képzésében, bármilyen léptékben. A rendszer a modell betanítási ellenőrzőpontjait a láncon lezáró valószínűségi ellenőrzésekkel kombinálja. Mindezt megbízhatóan teszi, és az általános költségeket lineárisan skálázza a modell méretével (az ellenőrzési költségek állandó tartása).
  • Tematikus fókusz a mesterséges intelligencia decentralizálására: A gépi tanulási alkalmazások legtöbb jól ismert példáját (Tesla önvezető autók, Google DeepMind) ugyanazok a cégek gyártják, mivel a mélytanulási iparág jelenleg úgy néz ki, mint a Big Tech cégek közötti monopólium játéka. valamint olyan államok, mint Kína és az Egyesült Államok. Ezek az erők hatalmas centralizációs erőket eredményeznek, amelyek ellentétesek a web3-mal, sőt a web1 történelmi eredetével is.

A CoinFund büszkén támogatja a Gensyn Protocol legutóbbi adománygyűjtését és a csapat víziója, amely lehetővé teszi a neurális hálózatok megbízható, hiperskálájú és alacsony költségű képzését az új ellenőrző rendszerükön keresztül. Valószínűségi ellenőrzések felhasználása, amelyek befejezik a láncot miközben belekoppint alulhasznosított és alulhasznált számítási források, a jelenleg kihasználatlan játék GPU-któl a kifinomult ETH1 bányászati ​​készletekig, amelyek hamarosan leválanak az Ethereum hálózatról, mivel a hálózat áttér a Proof of Stake-re, a Gensyn protokoll nem igényel adminisztratív felvigyázót vagy jogi végrehajtást, inkább megkönnyíti a feladatok elosztását és a programozott kifizetéseket. okos szerződések. Még jobb, hogy a protokoll decentralizált jellege azt jelenti, hogy végső soron többségi közösség irányítja, és nem lehet „kikapcsolni” a közösség beleegyezése nélkül; így ellenáll a cenzúrának, ellentétben web2-es társaival. Végső soron úgy gondoljuk, hogy a Gensyn a web3-natív ML-számítás alaprétegévé válik, mivel a harmadik fél résztvevői végül gazdag felhasználói élményt és specifikus funkciókat építenek ki számos rést.

1. rész: Bevezetés a Deep Learning több évtizedes világi növekedésébe

A videohívás során látható minden arc és a hallható hang manipulált. A hívásminőség javítása érdekében neurális hálózatok szelektíven állítsa be a felbontást a Zoom és a elnyomja a háttérzajt a Microsoft Teamsben. A legújabb fejlesztések még alacsonyabb felbontású videókat is láthatnak 'álmodott' nagyobb felbontásba. A neurális hálózatok a mesterséges intelligencia mélytanulási ágában használt modellek. Lazán a szerkezetén alapulnak emberi agy és számtalan alkalmazásuk van, talán végső soron emberi szintű mesterséges intelligenciát hoznak létre. A nagyobb modellek általában jobb eredményeket adnak, a legmodernebb fejlesztéshez szükséges hardver pedig megduplázódik háromhavonta. Ez a robbanásszerű fejlődés a mély tanulást a modern emberi tapasztalat alapvető részévé tette. 2020-ban egy neurális hálózat üzemeltette a radart egy amerikai kémrepülőn – írják ma már a nyelvi modellek jobb átverő e-maileket mint az emberek, és az önvezető autók algoritmusai teljesítményben felülmúl emberek sokféle környezetben.

GPT-3 175B, az OpenAI által javasolt legnagyobb GPT-3 modell Brown és mtsai. (2020) 1,000 NVIDIA Tesla V100 GPU-ból álló klasztert használt a képzéshez  – ez nagyjából 355 évnyi oktatásnak felel meg egyetlen eszközön. DALL-E -tól Ramesh et al. (2021), az OpenAI másik Transformer modellje, 12 milliárd paraméterrel rendelkezik, és több mint 400 millió feliratos képre képezték ki. Az OpenAI viselte a DALL-E betanításának költségeit, de ellentmondásosan megtagadta a modell nyílt forráskódú használatát, ami azt jelenti, hogy az egyik legfontosabb, legkorszerűbb multimodális mély tanulási modell néhány kiválasztott kivételével mindenki számára elérhetetlen. A hatalmas erőforrásigény ezek megépítéséhez alapozó modellek jelentős akadályokat állítanak fel a hozzáférés előtt, és az erőforrások összevonásának módszere nélkül, miközben továbbra is értéket rögzítenek, valószínűleg stagnálást okoz a mesterséges intelligencia fejlődésében. Sokan úgy vélik, hogy ezek az általánosított modellek jelentik a kulcsot a mesterséges általános intelligencia (AGI) feloldásához, így az elszigetelt, mesterséges silókban végzett képzés jelenlegi módszere abszurdnak tűnik.

A számítási kínálathoz való hozzáférést biztosító jelenlegi megoldások vagy oligopolisztikusak és drágák, vagy egyszerűen kivitelezhetetlen tekintettel a nagyszabású mesterséges intelligenciához szükséges számítások bonyolultságára. A léggömbigény kielégítése költséghatékonyan kihasználó rendszert igényel minden rendelkezésre álló számítások (szemben a mai ~40%-os globális processzorhasználattal). Ezt a problémát jelenleg az a tény bonyolítja, hogy maga a számítási kínálat is akadozik aszimptotikus fejlődés a mikroprocesszor teljesítményében — mellett ellátási lánc és a geopolitikai chiphiány.

2. rész: Miért van szükség Gensyn koordinációjára?

A hálózat kiépítésének alapvető kihívása a befejezett ML munka ellenőrzése. Ez egy rendkívül összetett probléma, amely a komplexitáselmélet, a játékelmélet, a kriptográfia és az optimalizálás metszéspontjában található. A modelltervezés emberi tudásán kívül három alapvető probléma lassítja az alkalmazott ML előrehaladását: 1) a számítási teljesítmény elérése; 2) az adatokhoz való hozzáférés; és 3) a tudáshoz való hozzáférés (az igazság címkézése). A Gensyn az első problémát úgy oldja meg, hogy igény szerinti hozzáférést biztosít a globálisan skálázható számítástechnikához annak méltányos piaci áron, míg a Gensyn Foundation kutatások, finanszírozás és más protokollokkal való együttműködés révén igyekszik a kettő és a három megoldását ösztönözni.

Pontosabban, a kiváló processzorokhoz való hozzáférés lehetővé teszi az egyre nagyobb/összetettebb modellek betanítását. Az elmúlt évtizedben a tranzisztorsűrűség növekedése és a memória-elérési sebesség/párhuzamosítás előrehaladása drámaian csökkentette a nagy modellek betanítási idejét. A hardverhez való virtuális hozzáférés az olyan felhőóriásokon keresztül, mint az AWS és az Alibaba, egyúttal szélesebb körben is elterjedt. Ennek megfelelően erős állami érdek fűződik a legkorszerűbb processzorok előállításához szükséges eszközök beszerzéséhez. A szárazföldi Kína még nem rendelkezik teljes kapacitással a legkorszerűbb félvezetők (nevezetesen szilíciumlapkák) előállítására, amelyek a processzorok alapvető elemei. Ezeket importálniuk kell, különösen a TSMC-től (Taiwan Semiconductor Manufacturing Company). A chipgyártók megpróbálják megakadályozni, hogy más ügyfelek hozzáférjenek a chipgyártókhoz kínálat felvásárlásával. Állami szinten az USA volt agresszív blokkolás a kínai vállalatok bármilyen lépése a technológia megszerzése érdekében. A technológiai halomban tovább lépve egyes vállalatok egészen addig jutottak, hogy megalkották saját mély tanulásra specifikus hardvereiket, például a Google TPU-klasztereit. Ezek jobban teljesítenek, mint a szabványos GPU-k a mély tanulásban, és nem eladók, csak bérelhetők.

A hozzáférhető számítástechnika méretének jelentős növelése, miközben csökkenti az egységköltséget, egy teljesen új paradigma előtt nyitja meg a kaput a mélytanulás előtt mind a kutatói, mind az ipari közösségek számára. A méretbeli és költségnövekedés lehetővé teszi a protokoll számára, hogy már bevált, előre betanított alapmodelleket állítson fel – más néven Alapozó modellek– hasonló módon, mint a modell állatkertek népszerű keretek közül. Ez lehetővé teszi a kutatók és mérnökök számára, hogy nyíltan kutassanak és képezzenek kiváló modelleket hatalmas nyílt adatkészletek felett, hasonlóan a Eleuther projekt. Ezek a modellek centralizált tulajdonlás vagy cenzúra nélkül megoldják az emberiség néhány alapvető problémáját. A kriptográfia, különösen a funkcionális titkosítás lehetővé teszi, hogy a protokoll igény szerint kihasználható legyen a privát adatokon. A hatalmas alapmodelleket ezután bárki finomhangolhatja egy védett adatkészlet használatával, megőrizve az adatok értékét/magánéletét, de továbbra is megoszthatja a kollektív tudást a modelltervezés és -kutatás terén.

Nagy méret + alacsony költség: a Gensyn protokoll olyan költséget biztosít, mint egy saját GPU egy adatközpontban, olyan léptékben, amely meghaladja az AWS-t. (2021. novemberi árak).

3. rész: Gensyn Drives Web3-natív adatközpontosítás

Az internet az Egyesült Államok kormányától születhetett az 1960-as években, de az 1990-es évekre a kreativitás, az individualizmus és a lehetőségek anarchikus hálója volt. Jóval azelőtt, hogy a Google TPU-kat halmozott fel, a SETI@home-hoz hasonló projektek decentralizált számítási teljesítmény tömeges beszerzésével próbálták felfedezni az idegen életet. 2000-re a SETI@home feldolgozási aránya elérte 17 teraflop, ami több mint duplája az akkori legjobb szuperszámítógép, az IBM ASCI White teljesítményének. Ezt az időszakot általában „web1”-nek hívják, egy pillanattal a nagy platformok, például a Google vagy az Amazon (web2) hegemóniája előtt, de a decentralizált számítások skálázása akadozott, hogy megfeleljen az internet kezdeti igényeinek, számos akkori probléma miatt.

A webes infrastruktúra jelenlegi központosítása hatalmas web2-platformokba azonban olyan problémákat vet fel, mint például a költségek (az AWS bruttó árrése becsült 61%, amely a legtöbb alskálás kutató és adatvezérelt vállalkozás számára árréstömörítést jelent. Ugyanakkor a központosított számítási példányok az irányítást is feláldozzák — Az AWS kikapcsolta a Parler népszerű jobboldali közösségi médiaplatform infrastruktúráját. egy napos értesítés a 6. január 2021-i Capitol-lázadást követően. Sokan egyetértettek ezzel a döntéssel, de a precedens veszélyes az AWS-ben házigazdák 42% az internet legjobb 10,000 XNUMX webhelye közül. A mélytanulási modellek decentralizált hardvereken való betanítása azonban nehéz az ellenőrzési probléma miatt, amelyet a Gensyn Protocol segít megoldani.

A piac Web3-protokollként való felépítése megszünteti a skálázással kapcsolatos központosított általános költségeket, és csökkenti az új szolgáltatók belépési korlátait, lehetővé téve, hogy a hálózat a világ minden számítástechnikai eszközét lefedje. Az összes eszköz egyetlen decentralizált hálózaton keresztül történő összekapcsolása olyan szintű skálázhatóságot biztosít, amely jelenleg egyetlen létező szolgáltatón keresztül sem érhető el, így példátlan igény szerinti hozzáférést biztosít a világ teljes számítástechnikai kínálatához. A végfelhasználók számára ez teljesen lebontja a költség-méretarány dilemmát, és átlátható és alacsony költségű ML képzési számítást biztosít a potenciálisan végtelen skálázhatóság érdekében (a világméretű fizikai hardverkorlátokig), valamint az egységárakat, amelyeket a piaci dinamika határozza meg. Ez kikerüli a nagy szolgáltatók által élvezett szokásos árkokat, jelentősen lenyomja az árakat, és elősegíti a valóban globális versenyt az erőforrások szintjén, sőt olyan esetet is figyelembe vesz, amikor a meglévő felhőszolgáltatók a Gensyn protokollt is olyan disztribúciós útnak tekintik, amely kiegészíti a központibb belső feleket. csomagban kínált ajánlatokat.

Következtetés:

Mivel a mesterséges intelligencia majdnem olyan népszerű divatszó, mint a kriptovaluta és a blokkláncok, a Gensyn-be történő befektetésről szóló, itt bemutatott tézisünknek át kell mennie a könnyen érthető és bizonyítékokkal alátámasztott teszteken, miközben ugyanolyan ambiciózusnak kell lennie a protokoll lehetőségeinek szűkítésében. a web3-ban natív, kezdetben célzott, de általánosítható erőforrás-hálózat hozzáadott értéke. Úgy gondoljuk, hogy a Gensyn protokollal egy hiperskálázható, költséghatékony koordinációs hálózat kezdetét látjuk, amely egyengeti az utat a még értékesebb betekintések előtt, amelyek lefektetik a jövő számtalan alkalmazásának alapjait.

A CoinFundról

A CoinFund egy sokszínű, vezető blokklánc-központú befektetési cég, amelyet 2015-ben alapítottak, és amelynek székhelye az Egyesült Államokban található. Összességében kiterjedt múlttal és tapasztalattal rendelkezünk a kriptovaluták, a hagyományos részvények, a hitelek, a magántőke és a kockázati befektetések terén. A CoinFund stratégiái likvid és kockázati piacokra egyaránt kiterjednek, és profitálnak multidiszciplináris megközelítésünkből, amely szinkronizálja a technikai kriptográfiai alkalmasságot a hagyományos pénzügyi tapasztalatokkal. Az „első az alapító” megközelítéssel a CoinFund szorosan együttműködik portfólióvállalataival, hogy az innovációt az egész digitális eszközterületen ösztönözze.

A felelősség megtagadása

Az ezen az oldalon található tartalom csak tájékoztatási és vita célokat szolgál, és nem lehet rájuk hagyatkozni egy adott befektetési döntés kapcsán, és nem értelmezhető ajánlatnak, ajánlásnak vagy felkérésnek semmilyen befektetéssel kapcsolatban. A szerző nem támogat egyetlen, ebben a cikkben tárgyalt vállalatot, projektet vagy tokent sem. Itt minden információ „ahogy van”, bármiféle kifejezett vagy hallgatólagos garancia nélkül, és minden előretekintő állítás tévesnek bizonyulhat. A CoinFund Management LLC és leányvállalatai hosszú vagy rövid pozíciókkal rendelkezhetnek az ebben a cikkben tárgyalt tokenekben vagy projektekben.

A Gensyn Protokoll megbízhatóan neurális hálózatokat képez hiperskálán, alacsonyabb nagyságrenddel… eredetileg a A CoinFund blog a Medium oldalon, ahol az emberek folytatják a beszélgetést, kiemelve és válaszolva erre a történetre.

Időbélyeg:

Még több coinfund