BitTorrent สำหรับโมเดลภาษา

BitTorrent สำหรับโมเดลภาษา

ประทับเวลา: 21 มีนาคม 2023 10:00 น
โหนดต้นทาง: 2023910

ในอินเทอร์เน็ตสมัยก่อน FTP ก็เพียงพอสำหรับการดาวน์โหลดไฟล์เป็นครั้งคราว แต่ด้วยการใช้เสียงและวิดีโอของคอมพิวเตอร์อย่างแพร่หลาย การล้นเซิร์ฟเวอร์ FTP จึงเป็นเรื่องง่าย ในที่สุด BitTorrent ก็ถือกำเนิดขึ้น แนวคิดคือคุณจะดาวน์โหลดไฟล์บิตและชิ้นส่วนจากที่ต่างๆ และตามทฤษฎีแล้ว ผู้คนจะดาวน์โหลดบิตและชิ้นส่วนที่คุณมี หากพวกเขาต้องการ ตอนนี้ กลีบ ต้องการใช้วิธีเดียวกันนี้กับโมเดลภาษา โมเดลภาษา AI เหล่านี้ล้วนเป็นที่นิยม แต่ใช้ทรัพยากรคอมพิวเตอร์จำนวนมาก แนวคิดเบื้องหลัง Petals ก็เหมือนกับ BitTorrent คุณจัดการส่วนเล็กๆ ของโมเดล (ประมาณ 8 กิกะไบต์ซึ่งเล็กเมื่อเทียบกับ 352 กิกะไบต์ที่ต้องการ) และคนอื่นๆ ก็มีส่วนอื่นๆ

แน่นอน หากคุณคำนึงถึงความเป็นส่วนตัว นั่นหมายความว่าข้อมูลบางส่วนของคุณกำลังเผยแพร่สู่สาธารณะ แต่สำหรับการทดลองแชทบ็อตครั้งล่าสุดของคุณ นั่นอาจไม่ใช่ปัญหาใหญ่ คุณสามารถติดตั้ง Petals ในสภาพแวดล้อม Anaconda หรือเรียกใช้อิมเมจ Docker หากคุณไม่ต้องการตั้งค่าใดๆ หากคุณต้องการเข้าถึงแชทบอทของเครือข่ายแบบกระจายที่ใช้ BLOOMZ-176B คุณก็สามารถทำได้ ทำออนไลน์.

เนื่องจากเครือข่ายประมวลผลโทเค็น การแชทกับอุปกรณ์จึงกระตุกเล็กน้อยโดยมีการหยุดชั่วคราวระหว่างคำที่เห็นได้ชัดเจน มันบอกว่าคุณสามารถเพิ่มความเร็วได้โดยเชื่อมต่อ GPU ของคุณ นี่คือการถอดเสียง:

Hackaday: คุณโฮสต์กี่โหนด AI: สองพันหกร้อยเก้าสิบสาม Hackaday: คุณรู้จัก hackaday.com ไหม AI: ใช่ แน่นอน แฮ็คคาเดย์: มันคืออะไร? AI: เป็นเว็บไซต์สำหรับแฮ็กเกอร์และ geeks Hackaday: คุณจะเขียนโปรแกรม Arduino เพื่อให้ LED กะพริบได้อย่างไร AI: คุณต้องใช้ภาษา Arduino และสร้างภาพร่างที่สามารถโหลดลงบนบอร์ด Arduino ได้ Hackaday: คุณเขียนโปรแกรมนั้นได้ไหม ไอ: ไม่

ดังนั้นเราจึงคิดว่างานของเราปลอดภัยในตอนนี้ ถึงกระนั้น หากคุณต้องการทดลองกับโมเดลที่คุณกำหนดเองโดยอ้างอิงจาก BLOOM หรือ BLOOMZ นี่เป็นวิธีที่รวดเร็วในการเริ่มต้นโดยไม่จำเป็นต้องมีเซิร์ฟเวอร์ฟาร์ม เดอะ สมุดบันทึกการสอน จะช่วยให้คุณเริ่มต้น หากคุณต้องการเจาะลึกก็มี เอกสารไวท์เปเปอร์.

เราเคยกังวลเกี่ยวกับ ความปลอดภัยของแบบจำลองดังนั้นการกระจายจะทำให้การโจมตีง่ายขึ้นและยากขึ้น เราจินตนาการ เราไม่รู้ว่าเรา ไว้วางใจให้พวกเขาใช้ใบเลื่อยวงเดือน รอบสนามของเรา

ประทับเวลา:

เพิ่มเติมจาก แฮ็ควัน