เขียนโดย: J1N, Techub News

บทนำ: ยุคหนึ่งถึงสอง

Kuzco เป็นเครือข่ายการขุดพลังการประมวลผลที่เชี่ยวชาญในการให้บริการโมเดลภาษา LLM ขนาดใหญ่ ในปีนี้ a16z ได้รับเลือกสำหรับโปรแกรมเร่งความเร็วฤดูใบไม้ร่วง Crypto Startup Accelerator (CSX) ที่เปิดตัวในนิวยอร์กเมื่อวันที่ 9 กันยายน โครงการที่เลือกโดยโปรแกรมจะได้รับ อย่างน้อย 500,000 จากการลงทุนของ a16z USD และจะได้รับคำแนะนำและการสนับสนุนจากทีมงานปฏิบัติการของ a16z ขณะนี้โปรแกรมเร่งความเร็วสิ้นสุดลงแล้ว

เมื่อวันที่ 16 พฤศจิกายน Kuzco ประกาศ ว่าแผนจูงใจระยะแรก (ยุคหนึ่ง) จะสิ้นสุดในวันที่ 18 พฤศจิกายน 2567 การดำเนินการทั้งหมดจะถูกระงับ สแนปชอตของข้อมูลจะถูกจัดเก็บอย่างถาวร และอันดับคะแนนสุดท้ายจะประกาศในรายการอันดับใหม่ .

ตามการเปิดเผยอย่างเป็นทางการ Epoch One เปิดตัวเมื่อวันที่ 6 มีนาคม 2024 โดยมีจำนวนอุปกรณ์สูงสุดเกิน 8,000 เครื่อง เครือข่ายใช้งาน โมเดลภาษาขนาดใหญ่ Llama-3 AI สเปค 8B ที่ออกโดย Meta โดยมีการอนุมานรวมมากกว่า 1 ล้านล้าน โทเค็น

และประกาศว่าข้อมูลทางการเงินและแผนงานการพัฒนาโครงการจะเปิดตัวในอีกไม่กี่สัปดาห์ข้างหน้า และ โปรแกรมจูงใจระยะที่สอง (ยุคสอง) จะเปิดในวันที่ 9 ธันวาคม Epoch Two จะนำเสนอคุณสมบัติใหม่บางอย่าง เช่น ทรูพุตฮาร์ดแวร์ NVIDIA ที่สูงขึ้น และ ความน่าเชื่อถือ สนับสนุนให้ผู้ใช้เข้าถึงอุปกรณ์คอมพิวเตอร์ชั้นนำ เช่น A100 และ H100 รองรับการสร้างภาพและโมเดลภาษาหลายภาษามากขึ้น

ยังมีเวลาอีกครึ่งเดือนในการเตรียมตัวก่อนการเปิดตัว Epoch Two บทความนี้จะกล่าวถึง:

Epoch One Review: การต่อสู้แบบคนเดียว

การกำหนดค่า

รายการการกำหนดค่าของผู้เขียนประกอบด้วยกราฟิกการ์ดซีรีย์ RTX 2060, 2070S, 3080, 4060, 4060Ti รวมถึงอุปกรณ์ 4 4070S และ 2 Apple M2 และ M3 อุปกรณ์เหล่านี้กระจายอยู่ในโฮสต์ แล็ปท็อป และอุปกรณ์ขุดเฉพาะหลายเครื่อง

ค่าใช้จ่าย

เป็นที่น่าสังเกตว่าในตอนแรกผู้เขียนซื้อกราฟิกการ์ดเหล่านี้ทุกปีเพื่อความต้องการในการเล่นเกมและไม่ได้ซื้อเพื่อการขุดโดยเฉพาะ ดังนั้นต้นทุนการซื้อฮาร์ดแวร์จึงไม่รวมอยู่ในการคำนวณต้นทุน แต่จะคำนวณเฉพาะค่าไฟฟ้าตามจริงของเครื่องทำเหมืองเท่านั้น นี่คือบทความแรก " A16z "Disciple" Kuzco Practical Guide: วิธีดำเนินการขุดเหมืองพลังงานคอมพิวเตอร์ AI อย่างมีประสิทธิภาพ 》ตัวอย่างเครื่องจักรทำเหมืองแบบประกอบ

การกำหนดค่าเครื่องขุด:

เครื่องถูมือ

ภาพด้านล่างแสดงพลังงานที่ใช้โดยเครื่องจักรขุดในเดือนตุลาคมและพฤศจิกายน ได้รับทั้งหมด 564 กิโลวัตต์-ชั่วโมง และคะแนน KZO ที่ได้รับประมาณ 600 ล้านคะแนน ทุกเครื่องรวมกันรวมกันได้ประมาณ 1.1 พันล้านคะแนน ค่าไฟฟ้าเฉพาะจะต้องคำนวณตามค่าไฟฟ้าในพื้นที่ของคุณ ข้อมูลนี้มีไว้เพื่อการอ้างอิงเท่านั้น

ที่ด้านขวาสุดของภาพได้รับคะแนนรวม 1 พันล้านคะแนน

การเตรียมพร้อมสำหรับยุคที่สอง: การปรับใช้คลัสเตอร์

จากการแบ่งปันของผู้เขียนในบทความแรกและประสบการณ์การดำเนินงานและการบำรุงรักษาที่หลากหลายของการมีส่วนร่วมในการประกอบอุปกรณ์ การดีบัก และการปรับใช้สภาพแวดล้อม ผู้เขียนประสบความสำเร็จในการได้รับการสนับสนุนทางการเงินจำนวนหนึ่ง และลงทุนทั้งหมดในการประกอบเครื่องจักรทำเหมืองประสิทธิภาพสูงเพื่อ ปรับปรุงขนาดพลังการประมวลผลและประสิทธิภาพการดำเนินงานให้ดียิ่งขึ้น

การเตรียมพร้อมสำหรับยุคที่สอง: การปรับใช้คลัสเตอร์

จากการแบ่งปันของผู้เขียนในบทความแรกและประสบการณ์การดำเนินงานและการบำรุงรักษาที่หลากหลายของการมีส่วนร่วมในการประกอบอุปกรณ์ การดีบัก และการปรับใช้สภาพแวดล้อม ผู้เขียนประสบความสำเร็จในการได้รับการสนับสนุนทางการเงินจำนวนหนึ่ง และลงทุนทั้งหมดในการประกอบเครื่องจักรทำเหมืองประสิทธิภาพสูงเพื่อ ปรับปรุงขนาดพลังการประมวลผลและประสิทธิภาพการดำเนินงานให้ดียิ่งขึ้น

จากทหารแต่ละคนไปจนถึงการใช้งานคลัสเตอร์

ตรรกะการกำหนดค่าและการเลือกเครื่องจักรที่มีสเปคสูง

เมื่อรวมกับประสบการณ์จริงของผู้เขียนใน Epoch One แล้ว เมนบอร์ด, CPU, กราฟิกการ์ด, พาวเวอร์ซัพพลาย, แพลตฟอร์มและการกำหนดค่าเครือข่ายได้รับการปรับปรุงอย่างเต็มที่ และเลือกการผสมผสานฮาร์ดแวร์ที่เหมาะสมยิ่งขึ้น ซึ่งไม่เพียงแต่ปรับปรุงเสถียรภาพ ความปลอดภัย และประสิทธิภาพของ การดำเนินงานโดยรวม และยังให้ความสำคัญกับสภาพคล่องของตลาดมือสองในการเลือกฮาร์ดแวร์มากขึ้น กลยุทธ์นี้สามารถลดต้นทุนการลงทุนจริงได้อย่างมีประสิทธิภาพและให้ทางเลือกที่คุ้มค่าแก่ผู้เข้าร่วมรายต่อๆ ไป

เมนบอร์ด

ผู้เขียนเลือกมาเธอร์บอร์ดอุตสาหกรรมแทน B85 กระแสหลัก โดยพิจารณาจากประสิทธิภาพ ความเสถียร และความคุ้มค่าเป็นหลัก

ในแง่ของประสิทธิภาพ การรันโมเดล Llama-3 ของ Kuzco จำเป็นต้องเริ่มกระบวนการ Docker หลายกระบวนการ และการรันกระบวนการเหล่านี้พร้อมกันจะใช้ทรัพยากร CPU จำนวนมากและต้องการประสิทธิภาพของ CPU สูง และ CPU ที่รองรับ B85 ไม่สามารถตอบสนองความต้องการนี้ได้

นอกจากนี้ เมนบอร์ดอุตสาหกรรมยังมีข้อได้เปรียบที่ชัดเจนในด้านการทำงานที่มั่นคงในระยะยาว ทนต่ออุณหภูมิสูง และการรับประกันของผู้ผลิต ขณะเดียวกัน เมนบอร์ดเหล่านี้ก็มีสภาพคล่องที่แข็งแกร่งกว่าในตลาดมือสอง ดังนั้นจึงเป็นตัวเลือกที่ดีที่สุดอย่างไม่ต้องสงสัย

กราฟิกการ์ด

ผู้เขียนเลือกใช้ 4070S เป็นกราฟิกการ์ดหลักโดยพิจารณาจากประเด็นต่อไปนี้เป็นหลัก:

ข้อดีของประสิทธิภาพการประมวลผล AI: เมื่อเปรียบเทียบกับกราฟิกการ์ดซีรีส์ 30 การปรับปรุงประสิทธิภาพของกราฟิกการ์ดซีรีส์ 40 ในการประมวลผล AI นั้นยิ่งใหญ่กว่าการปรับปรุงประสิทธิภาพของเกมมาก เหตุผลหลักก็คือพลังการประมวลผล AI ส่วนใหญ่ขึ้นอยู่กับจำนวนคอร์ CUDA ของกราฟิกการ์ด และกราฟิกการ์ดซีรีส์ 40 มีคอร์ CUDA มากกว่ากราฟิกการ์ดซีรีส์ 30 อย่างมาก

ข้อได้เปรียบด้านประสิทธิภาพการใช้พลังงาน: ผู้เขียนได้ทำการทดสอบโดยละเอียดเกี่ยวกับ GPU ต่างๆ และคำนวณการใช้พลังงานโดยเฉลี่ยของโทเค็นแต่ละรายการ

เมื่อพิจารณาจากผลการทดสอบ 4070S ทำงานได้ดีที่สุดในแง่ของความสมดุลระหว่างประสิทธิภาพและการใช้พลังงาน อัตราส่วนประสิทธิภาพพลังงานที่สูงขึ้นจะช่วยลดต้นทุนค่าไฟฟ้าได้โดยตรง ทำให้เป็นตัวเลือกที่คุ้มค่าที่สุด

ราคาและสภาพคล่องในตลาดมือสอง: ในฐานะกราฟิกการ์ดระดับกลางถึงระดับสูง 4070S มีสภาพคล่องและการรักษามูลค่าสูงในตลาดมือสอง ซึ่งช่วยลดต้นทุนในการถือครองอุปกรณ์และให้ความยืดหยุ่นในการดำเนินการในภายหลัง การอัพเกรดฮาร์ดแวร์

ซีพียู

ตามที่กล่าวไว้ก่อนหน้านี้ Llama-3 ของ Kuzco จำเป็นต้องเริ่ม Dockers หลายตัวเมื่อทำงาน ซึ่งใช้ทรัพยากร CPU ที่สำคัญอย่างยิ่ง โดยเฉพาะอย่างยิ่งเมื่อทำงานบนการ์ดหลายใบ การใช้งาน CPU อาจสูงถึง 80%-90% ดังนั้นความสามารถในการประมวลผลแบบมัลติคอร์และมัลติเธรดจึงมีความสำคัญอย่างยิ่ง CPU ประสิทธิภาพสูง แบบมัลติเธรด และเสถียรไม่เพียงแต่สามารถรองรับการทำงานแบบมัลติทาสก์ได้อย่างมีประสิทธิภาพ แต่ยังรับประกันความเสถียรและประสิทธิภาพของกระบวนการขุดทั้งหมดอีกด้วย

i5 เจนเนอเรชั่น 13 สามารถใช้งานได้ถึง 70%+ เมื่อใช้งานกราฟิกการ์ดที่โหลดเต็ม

เส้นทางอ่อนคือกล่องสี่เหลี่ยมในภาพ

สภาพแวดล้อมเครือข่ายก็มีความสำคัญเช่นกันในการขุด แม้ว่าจะมีการกำหนดค่ากราฟิกการ์ดประสิทธิภาพสูง แต่หากเครือข่ายไม่ได้รับการปรับให้เหมาะสม พลังการประมวลผลก็จะได้รับผลกระทบอย่างรุนแรง จากการวัดจริงของผู้เขียน ความเร็วเครือข่ายที่ไม่เพียงพออาจทำให้พลังการประมวลผลลดลงเหลือ 30% และโหนดเครือข่ายคุณภาพต่ำอาจทำให้ไม่สามารถเชื่อมต่อกับเครือข่าย Kuzco ได้โดยตรง ทั้งสองจุดนี้ไม่สามารถยอมรับได้สำหรับการขุด เพื่อที่จะแก้ไขปัญหาเหล่านี้ ผู้เขียนจึงใช้โซลูชันการกำหนดเส้นทางแบบนุ่มนวล วิธีนี้ไม่เพียงแต่กำหนดค่าได้ง่าย แต่ยังสามารถทำงานได้อย่างมีประสิทธิภาพโดยไม่ต้องมีการแทรกแซงด้วยตนเองหลังจากเสร็จสิ้นการตั้งค่า ตามทฤษฎีแล้ว ยังสามารถรองรับการเข้าถึงอุปกรณ์แบบไม่จำกัดอีกด้วย สำหรับวิธีดำเนินการเฉพาะ ขอแนะนำให้ผู้อ่านศึกษาข้อมูลที่เกี่ยวข้องตามความต้องการ

แหล่งจ่ายไฟ

แหล่งจ่ายไฟระเบิดนิวเคลียร์ Classic Great Wall 2000w

แหล่งจ่ายไฟระเบิดนิวเคลียร์ Classic Great Wall 2000w

เมื่อเลือกแหล่งจ่ายไฟ คุณต้องให้ความสนใจเป็นพิเศษกับปัญหาการใช้พลังงานสูงสุด นี่คือเหตุผลว่าทำไมถึงแม้อัตราการใช้พลังงานของ 7-shot 4070S จะอยู่ที่ 1540W เท่านั้น ผู้เขียนยังคงเลือกใช้แหล่งจ่ายไฟ 2000W คู่ ด้วยกำลังรวม 4000W. ซึ่งไม่ถือเป็นการสิ้นเปลืองทรัพยากร แต่ไม่ได้คำนึงถึงความเสถียรและความปลอดภัยของอุปกรณ์

กราฟิกการ์ดจะพบกับ การใช้พลังงานสูงสุด ระหว่างการทำงาน กล่าวคือ การใช้พลังงานจริงอาจสูงถึง 1.5 เท่าหรือมากกว่าของการใช้พลังงานที่กำหนดในบางช่วงเวลา จากนั้นจึงกลับสู่ระดับปกติ หากแหล่งจ่ายไฟไม่แรงพอที่จะรองรับจุดสูงสุดนี้ อาจกระตุ้นให้เกิดกลไกการปิดระบบของแหล่งจ่ายไฟ และอาจสร้างความเสียหายให้กับการ์ดกราฟิกได้ นี่เป็นภัยคุกคามร้ายแรงต่อการทำงานปกติของเครื่องทำเหมือง

ประสิทธิภาพการใช้พลังงานที่ใช้ในยุค 4070

ยกตัวอย่าง 4070S แม้ว่าอัตราการใช้พลังงานจะอยู่ที่ 220W แต่การใช้พลังงานสูงสุดอาจเกิน 400W การใช้พลังงานสูงสุดรวมของกราฟิกการ์ด 7 ตัวอาจสูงถึงมากกว่า 3000W ดังนั้นจึงกำหนดค่าแหล่งจ่ายไฟคู่ 2000W เพื่อให้มั่นใจว่าเครื่องทำงานได้อย่างเสถียร ผู้ใช้ที่กำหนดค่า 4090 หลายเครื่องต้องให้ความสนใจเป็นพิเศษ อัตราการใช้พลังงานของ 4090 เครื่องเดียวคือ 450W และการใช้พลังงานสูงสุดอาจสูงถึง 770W ในกรณีของการ์ดหลายใบ แหล่งจ่ายไฟเพียงสองตัวอาจไม่สามารถตอบสนองความต้องการได้ ในกรณีนี้ โดยปกติแล้วจะต้องใช้แหล่งจ่ายไฟสามตัวเพื่อให้มั่นใจถึงความเสถียรของระบบ

ประสิทธิภาพการใช้พลังงาน 4090 รัน

เติมเงิน

สำหรับปัญหาต่างๆ เช่น การตั้งค่า BIOS ความเข้ากันได้ของฮาร์ดแวร์ และการจัดการระยะไกล ฉันจะไม่ลงรายละเอียดมากเกินไปที่นี่ มีบทช่วยสอนฟรีจำนวนมากบนอินเทอร์เน็ตสำหรับการอ้างอิง ปัญหาส่วนใหญ่สามารถแก้ไขได้โดยทำตามบทช่วยสอน ขอแนะนำให้ดำเนินการตรวจสอบและประมวลผลตามเป้าหมายตามการกำหนดค่าและความต้องการฮาร์ดแวร์ของคุณเอง ซึ่งง่ายและมีประสิทธิภาพ

ความเสี่ยงและผลประโยชน์

สำหรับปัญหาต่างๆ เช่น การตั้งค่า BIOS ความเข้ากันได้ของฮาร์ดแวร์ และการจัดการระยะไกล ฉันจะไม่ลงรายละเอียดมากเกินไปที่นี่ มีบทช่วยสอนฟรีจำนวนมากบนอินเทอร์เน็ตสำหรับการอ้างอิง ปัญหาส่วนใหญ่สามารถแก้ไขได้โดยการปฏิบัติตามบทช่วยสอน ขอแนะนำให้ดำเนินการตรวจสอบและประมวลผลตามเป้าหมายตามการกำหนดค่าและความต้องการฮาร์ดแวร์ของคุณเอง ซึ่งง่ายและมีประสิทธิภาพ

ความเสี่ยงและผลประโยชน์

ตอบคำถามที่ทุกคนกังวลมากที่สุด: คุณสามารถขุดเงินได้วันละเท่าไหร่? จริงๆ แล้ว ไม่มีคำตอบที่ชัดเจนสำหรับคำถามนี้ เนื่องจากความเสี่ยงและผลตอบแทนอยู่ร่วมกันเสมอ ฉันสามารถแบ่งปันมุมมองที่ชัดเจน: ไม่ว่าจะเป็นวงกลมสกุลเงินหรืออุตสาหกรรมแบบดั้งเดิม หากโครงการใดสามารถคำนวณรายได้รายวันได้อย่างแม่นยำ คุณก็อาจจะไม่สามารถทำเงินได้มากมาย เว้นแต่ว่าคุณจะมีการผูกขาดทรัพยากรบางอย่าง เช่น ค่าไฟฟ้าที่ต่ำมาก หรืออุปกรณ์การทำเหมืองที่ถูกมาก คุณสามารถมีความได้เปรียบในด้านรายได้ อย่างไรก็ตาม ไม่ใช่ทุกคนที่มีทรัพยากรดังกล่าว

ผู้เขียนเลือกอุปกรณ์ที่มีสภาพคล่องดีอย่างแม่นยำเพื่อลดความเสี่ยงในการลงทุนและแรงกดดันด้านต้นทุน จากตัวอย่างการขุดของ Kuzco ต้นทุนส่วนใหญ่จะเน้นที่ค่าเสื่อมราคาของฮาร์ดแวร์และค่าไฟฟ้า ดังนั้นการสูญเสียสูงสุดของคุณจึงจำกัดอยู่ที่ต้นทุนคงที่เหล่านี้ หากการมีส่วนร่วมไม่ได้ดำเนินการด้วยต้นทุนที่ต่ำ การตัดสินใจลงทุนใดๆ ก็จะสูญเสียความหมายไป ต้องเน้นย้ำว่าลักษณะของการขุดเหมืองแรกกำหนดว่าไม่มีความคาดหวังผลกำไรที่ชัดเจน แต่นี่ก็เป็นจุดที่ศักยภาพของเหมืองแรกอยู่ด้วย

จากการตัดสินเชิงอัตนัย เส้นทางนี้มีโอกาสทางการตลาดอย่างมาก ในด้านหนึ่ง Kuzco ได้รับการสนับสนุนด้านการลงทุนจาก a16z ในทางกลับกัน ความต้องการโมเดลภาษาขนาดใหญ่ของ LLM กำลังขยายตัวอย่างรวดเร็ว ลองคิดดูว่าแทบไม่มีใครไม่ใช้ LLM ใช่ไหม? เช่น ChatGPT ของ OpenAI, Llama ของ Meta และ XAI ของ Musk แพลตฟอร์มเหล่านี้ได้รับเงินทุนสนับสนุนระดับสูง ซึ่งแสดงให้เห็นอย่างชัดเจนถึงศักยภาพในการเติบโตของอุตสาหกรรมนี้

ไม่ใช่เรื่องง่ายที่คนธรรมดาจะเข้ามามีส่วนร่วมในอุตสาหกรรม AI โดยตรง ในแง่หนึ่ง เกณฑ์ทางเทคนิคสำหรับ AI นั้นสูง ในทางกลับกัน การฝึกอบรมโมเดล AI ต้องใช้ทรัพยากรและเงินทุนจำนวนมาก และคนส่วนใหญ่ไม่สามารถจ่ายค่าใช้จ่ายดังกล่าวได้ ด้วยการเข้าร่วมเครือข่ายพลังการประมวลผล AI ผ่าน Kuzco ผู้คนทั่วไปสามารถมีส่วนร่วมในสาขาที่มีการเติบโตสูงนี้ได้อย่างง่ายดายด้วยต้นทุนที่ควบคุมได้ มีส่วนร่วมในพลังการประมวลผลของ AI และรับผลกำไรในเวลาเดียวกัน

นอกจากนี้ ราคาของ Bitcoin กำลังจะเกิน 100,000 เหรียญสหรัฐ โดยเพิ่มขึ้นจาก 16,000 เหรียญสหรัฐในปี 2565 สู่ระดับสูงสุดในปัจจุบัน และมีความเสี่ยงอย่างมากที่จะเกิดการย้อนกลับ หากคุณเลือกที่จะซื้อโทเค็นของโครงการ AI โดยตรง คุณจะเผชิญกับความเสี่ยงจากความผันผวนสูงเช่นเดียวกัน ในทางตรงกันข้าม การเข้าร่วมในเครือข่ายพลังคอมพิวเตอร์ AI เป็นทางเลือกที่แข็งแกร่งกว่า ไม่เพียงแต่สามารถควบคุมต้นทุนได้อย่างชัดเจน แต่ยังเข้าสู่เส้นทางการเติบโตที่รวดเร็วของอุตสาหกรรม AI ที่มีความเสี่ยงค่อนข้างต่ำอีกด้วย นี่เป็นหนึ่งในวิธีปฏิบัติจริงสำหรับคนทั่วไปในการเข้าสู่วงการ AI ในสภาพแวดล้อมปัจจุบัน