Dil Modelleri için BitTorrent

İnternetin eski günlerinde FTP, ara sıra dosya indirmek için yeterliydi. Ancak bilgisayar ses ve videolarının yaygın kullanımıyla, bir FTP sunucusunu batırmak kolaylaştı ve sonunda BitTorrent doğdu. Buradaki fikir, bir dosyanın parçalarını ve parçalarını farklı yerlerden indirmeniz ve teorik olarak, insanların ihtiyaç duymaları halinde sahip olduğunuz parçaları ve parçaları indirmeleriydi. Şimdi yaprakları aynı yöntemi dil modelleriyle kullanmak istiyor. Bu AI dil modelleri çok revaçta, ancak önemli miktarda bilgisayar kaynağı kullanıyorlar. Petals'ın arkasındaki fikir BitTorrent gibidir. Modelin küçük bir bölümünü yönetirsiniz (gereken 8 gigabayta kıyasla küçük olan yaklaşık 352 gigabayt) ve diğer insanlar başka parçalara sahiptir.

Tabii ki, gizliliğe önem veriyorsanız, bu, verilerinizin bir kısmının halka açık olduğu anlamına gelir, ancak en son chatbot deneyleriniz için bu büyük bir sorun olmayabilir. Petals'ı bir Anaconda ortamına yükleyebilir veya herhangi bir ayar yapmak istemiyorsanız bir Docker görüntüsü çalıştırabilirsiniz. Dağıtılmış ağın BLOOMZ-176B tabanlı sohbet botuna erişmek istiyorsanız, şunları yapabilirsiniz: bunu çevrimiçi yap.

Ağ belirteçleri işlediğinden, aygıtla sohbet biraz sarsıntılı ve sözcükler arasında gözle görülür bir duraklama oluyor. GPU'nuzu bağlayarak hızı artırabileceğinizi söyledi. İşte bir transkript:

Hackaday: Sizi kaç düğüm barındırıyor? AI: İki bin altı yüz doksan üç Hackaday: Hackaday.com'u biliyor musunuz? AI: Evet, elbette. Hackaday: Bu nedir? AI: Bilgisayar korsanları ve meraklılar için bir web sitesi. Hackaday: Bir LED'i yanıp sönecek bir Arduino programını nasıl yazarsınız? AI: Arduino dilini kullanmalı ve Arduino kartına yüklenebilecek bir eskiz oluşturmalısınız. Hackaday: O programı yazabilir misin? yapay zeka: hayır

Yani işlerimizin şimdilik güvende olduğunu varsayıyoruz. Yine de, BLOOM veya BLOOMZ tabanlı kendi özel modellerinizle denemeler yapmak istiyorsanız, bu, bir sunucu çiftliğine ihtiyaç duymadan başlamanın hızlı bir yoludur. bu öğretici not defteri başlamanı sağlayacak Derin kazmak istersen, var teknik inceleme.

hakkında endişelendik modeli güvenlik, bu yüzden dağıtılmasının bazı saldırıları kolaylaştıracağını ve bazılarını zorlaştıracağını tahmin ediyoruz. biz olup olmadığımızı bilmiyoruz daire testere bıçağı çalıştırmak için herhangi birine güvenin Yine de bahçemizin etrafında.

• SEO Destekli İçerik ve Halkla İlişkiler Dağıtımı. Bugün Gücünüzü Artırın.
• Plato blok zinciri. Web3 Metaverse Zekası. Bilgi Güçlendirildi. Buradan Erişin.
• Kaynak: https://hackaday.com/2023/03/21/bittorrent-for-language-models/