Your 99 -- วิสัยทัศน์

เอกสารนี้เป็นอุดมคตินิยมอย่างซื่อสัตย์ เราบอกล่วงหน้า แต่อุดมคตินิยมที่ตั้งอยู่บนเลขคณิตไม่ใช่จินตนาการ -- มันคือวิศวกรรม และทางเลือกอื่นของอุดมคตินิยม ณ ตอนนี้ คือการยอมจำนน

---

ข้อจำกัดความรับผิดชอบอย่างตรงไปตรงมา

สิ่งที่ตามมาคือวิสัยทัศน์ ไม่ใช่แผน แผนอยู่ในแผนงาน กลไกอยู่ในข้อตกลง เอกสารนี้อธิบายว่าเส้นทางนำไปที่ไหน หากคณิตศาสตร์ถูกต้อง -- และหากมีคนจำนวนมากพอตัดสินใจว่าทิศทางที่เรากำลังไป ไม่ใช่ทิศทางที่พวกเขาต้องการ

บางอย่างในนี้จะฟังดูทะเยอทะยาน มันเป็น แต่ลองพิจารณา: ทุกย่อหน้าด้านล่างทะเยอทะยานน้อยกว่าสิ่งที่ห้องปฏิบัติการ AI กำลังพยายามอยู่แล้ว ด้วยเศษเสี้ยวของปัจจัยนำเข้าจากมนุษยชาติและไม่มีความยินยอมใด ๆ เลย

---

โลกที่เราอยู่

บริษัทห้าแห่ง -- OpenAI, Google DeepMind, Anthropic, Meta AI, และ xAI -- อยู่บนเส้นทางสร้างระบบที่อาจทำให้งานทางปัญญาของมนุษย์ส่วนใหญ่เป็นอัตโนมัติ นี่ไม่ใช่การเก็งกำไร มันคือเป้าหมายที่ผู้ก่อตั้งประกาศ จุดเน้นของการวิจัย และทิศทางของขีดความสามารถ

บริษัทเหล่านี้ถูกควบคุมโดยคนจำนวนน้อยอย่างน่าทึ่ง โครงสร้างการกำกับดูแลรวมศูนย์อำนาจการตัดสินใจ: บุคคลเดียวถือสิทธิ์โหวตเสียงข้างมาก คณะกรรมการมีอำนาจจำกัด และผู้ใช้ไม่มีอำนาจใด ๆ เทคโนโลยีที่มีผลกระทบมากที่สุดในประวัติศาสตร์มนุษย์กำลังถูกกำหนดทิศทางโดยคนหยิบมือในสำนักงานไม่กี่แห่ง

Geoffrey Hinton -- นักวิทยาศาสตร์ที่ได้รับรางวัลโนเบลสำหรับงานรากฐานด้าน deep learning -- ลาออกจาก Google เพื่อพูดอย่างเปิดเผยเกี่ยวกับความเสี่ยงการสูญพันธุ์จาก AI เขาไม่ได้พูดว่ามันแน่นอน เขาพูดว่ามันเป็นไปได้ และความเป็นไปได้นั้นเพียงอย่างเดียวก็สมควรให้ความสนใจ

Yoshua Bengio บุคคลผู้ก่อตั้ง AI สมัยใหม่อีกท่าน เรียกร้องการกำกับดูแล AI ในระดับนานาชาติ Stuart Russell ผู้เขียนตำราเรียนมาตรฐานเรื่องปัญญาประดิษฐ์ โต้แย้งว่าแนวทางการพัฒนาปัจจุบันสร้างระบบที่เป้าหมายอาจไม่สอดคล้องกับสวัสดิภาพของมนุษย์

คนเหล่านี้ไม่ใช่เสียงชายขอบ คนเหล่านี้คือคนที่สร้างรากฐาน และพวกเขากำลังบอกว่า: เราควรให้ความสนใจ

การตอบสนองจากมนุษยชาติส่วนใหญ่คือดู พยักหน้า แชร์บทความเกี่ยวกับความเสี่ยง AI แล้วเปิด ChatGPT ยอมรับข้อกังวลแล้วไม่ทำอะไร

การไม่ทำอะไรคือทางเลือก และตอนนี้ มันคือทางเลือกที่แย่ที่สุดที่มีอยู่

---

ทางเลือก

ถ้าคนที่ใช้ AI -- คนที่งานของพวกเขาฝึก AI, ที่ข้อเสนอแนะของพวกเขาปรับปรุง AI, ที่ชีวิตประจำวันของพวกเขาถูกหล่อหลอมโดย AI -- มีสิทธิ์เสียงในวิธีที่มันถูกสร้าง?

ไม่ใช่กล่องแสดงความคิดเห็น ไม่ใช่แบบฟอร์มข้อเสนอแนะ ไม่ใช่คำร้อง ความเป็นเจ้าของจริง การกำกับดูแลจริง อำนาจจริงในการกำหนดทิศทางของเครื่องมือที่พวกเขาพึ่งพา

นี่ไม่ใช่เรื่องนามธรรม กลไกมีอยู่แล้ว ข้อตกลงกำหนดมัน สัดส่วนการถือหุ้นแบบมีชีวิต (Living Stake) ให้น้ำหนักกับการมีส่วนร่วม การกำกับดูแลให้สิทธิ์เสียงแก่ผู้มีส่วนได้ส่วนเสีย สิ่งเดียวที่ขาดคือขนาด

และขนาดคือสิ่งที่เอกสารนี้พูดถึง

---

ส่วนที่ 1 -- ชุมชนในฐานะห้องปฏิบัติการ AI

การปฏิวัติ RLHF ที่ยังไม่เกิดขึ้น

ปัจจุบัน ระบบ AI ถูกปรับปรุงผ่าน Reinforcement Learning from Human Feedback -- RLHF บริษัทจ้างผู้รับเหมาประเมินผลลัพธ์ของ AI: คำตอบนี้มีประโยชน์ไหม? แม่นยำไหม? เป็นอันตรายไหม? ข้อเสนอแนะนี้หล่อหลอมพฤติกรรมของโมเดล

กลุ่มคนที่ให้ข้อเสนอแนะนี้มีขนาดเล็ก -- หลักพัน ไม่ใช่ล้าน พวกเขามักเป็นผู้รับเหมาที่ทำงานรวดเร็วผ่านงานประเมิน ได้ค่าจ้างต่องาน มีความเชี่ยวชาญเฉพาะทางจำกัด ผู้รับเหมาที่ประเมินคำตอบทางการแพทย์อาจไม่มีการฝึกอบรมทางการแพทย์ ผู้รับเหมาที่ให้คะแนนการวิเคราะห์ทางกฎหมายอาจไม่มีพื้นฐานทางกฎหมาย

ลองจินตนาการทางเลือก

ชุมชนคนนับล้าน -- จัดระเบียบตามอาชีพ ตามความเชี่ยวชาญ ตามความรู้เฉพาะทาง -- ให้ข้อเสนอแนะกับระบบ AI ที่พวกเขาเป็นเจ้าของ ไม่ใช่ในฐานะผู้รับเหมา แต่ในฐานะเจ้าของ

• พยาบาลคนหนึ่งใช้ผู้ช่วย AI ด้านสุขภาพของ Your 99 เมื่อ AI ให้คำเตือนเรื่องปฏิกิริยาระหว่างยาที่ไม่ค่อยถูกต้อง เธอแก้ไข การแก้ไขของเธอเป็นการมีส่วนร่วม เธอได้สัดส่วนการถือหุ้น AI ดีขึ้นสำหรับพยาบาลทุกคนที่ใช้หลังจากเธอ
• นักบัญชีภาษีคนหนึ่งใช้เครื่องมือการเงินของ Your 99 เมื่อ AI ใช้กฎภาษีผิด เขาแก้ไขพร้อมระบุกฎหมายที่เจาะจง ความเชี่ยวชาญของเขากลายเป็นข้อมูลฝึก เขาได้สัดส่วนการถือหุ้น AI น่าเชื่อถือมากขึ้นสำหรับนักบัญชีทุกคน
• ครูคนหนึ่งใช้แพลตฟอร์มการศึกษาของ Your 99 เมื่อ AI อธิบายแนวคิดไม่ดีสำหรับเด็ก 12 ขวบ เธอเขียนคำอธิบายใหม่ ความรู้ด้านการสอนของเธอหล่อหลอม AI เธอได้สัดส่วนการถือหุ้น AI ให้บริการนักเรียนดีขึ้น
• นักดนตรีคนหนึ่งใช้เครื่องมือสร้างสรรค์ของ Your 99 เมื่อ AI สร้างอะไรที่ฟังดูซ้ำซาก เธอให้ข้อเสนอแนะเรื่องความเป็นต้นฉบับ เรื่องความรู้สึก เรื่องสิ่งที่ทำให้ดนตรีมีชีวิต รสนิยมและวิจารณญาณของเธอกลายเป็นสัญญาณฝึก เธอได้สัดส่วนการถือหุ้น
• วิศวกรซอฟต์แวร์คนหนึ่งตรวจสอบโค้ดที่ AI สร้าง เธอจับ race condition ที่ละเอียดซึ่ง AI พลาด ความเชี่ยวชาญของเธอไหลเข้าสู่ระบบ เธอได้สัดส่วนการถือหุ้น AI เขียนโค้ดดีขึ้นสำหรับทุกคน

นี่ไม่ใช่สมมติฐาน นี่คือ RLHF ในขนาดที่ไม่มีบริษัทเดียวทำได้ ไม่ใช่ผู้รับเหมา 10,000 คน ไม่ใช่ผู้ทดสอบเบต้า 100,000 คน ผู้เชี่ยวชาญเฉพาะทางหลายล้านคน ในทุกอาชีพ ทุกภาษา ทุกประเทศ -- ปรับปรุง AI เพราะพวกเขาเป็นเจ้าของผลลัพธ์

คุณภาพของข้อเสนอแนะนี้จะไม่เคยมีมาก่อน พยาบาลที่แก้ไขผลลัพธ์ AI ทางการแพทย์ให้ข้อเสนอแนะที่มีค่าสูงกว่าผู้รับเหมาทั่วไปที่ทำการประเมินเดียวกันอย่างมหาศาล ความเชี่ยวชาญเฉพาะทางเป็นทรัพยากรที่หายากที่สุดในการจัดวาง AI และเรากำลังเสนอให้เข้าถึงแหล่งที่ใหญ่ที่สุดที่เคยมีมา

ทำไมบริษัทไม่สามารถทำได้

OpenAI ไม่สามารถสร้างสิ่งนี้ ไม่ใช่เพราะเทคโนโลยี -- เพราะโครงสร้าง ผู้ใช้ของพวกเขาคือลูกค้า ไม่ใช่เจ้าของ ไม่มีกลไกตอบแทนผู้ใช้สำหรับข้อเสนอแนะที่ปรับปรุงโมเดล ไม่มีการกำกับดูแลที่ให้ผู้ใช้กำหนดทิศทาง AI ข้อเสนอแนะไหลทางเดียว: จากผู้ใช้สู่บริษัท คุณค่าไหลทางเดียว: จากบริษัทสู่ผู้ถือหุ้น

Your 99 กลับทิศทั้งสองสาย ข้อเสนอแนะไหลจากผู้ใช้สู่ผลิตภัณฑ์ คุณค่าไหลจากผลิตภัณฑ์สู่ผู้ใช้ ความเชี่ยวชาญของผู้ใช้ทำให้ AI ดีขึ้น และผู้ใช้เป็นเจ้าของ 99% ของการปรับปรุงนั้น

---

ส่วนที่ 2 -- ชุมชนในฐานะโครงสร้างพื้นฐาน

เครื่องจักรที่ว่างอยู่

ตอนนี้ อุปกรณ์คอมพิวเตอร์หลายพันล้านเครื่องว่างอยู่เป็นส่วนใหญ่ แล็ปท็อปของคุณหลับขณะที่คุณกินข้าวเที่ยง เดสก์ท็อปของคุณไม่ได้ใช้ขณะที่คุณนอน โปรเซสเซอร์ของโทรศัพท์คุณว่างอยู่ 95% ขณะที่คุณอ่านประโยคนี้

พลังการคำนวณรวมของอุปกรณ์ที่ว่างเหล่านี้มหาศาล ประมาณการอนุรักษ์: อุปกรณ์หลายร้อยล้านเครื่องที่มีโปรเซสเซอร์และ GPU สมัยใหม่ พร้อมใช้งานรวมหลายพันล้านชั่วโมงต่อวัน

นี่ไม่ใช่แนวคิดใหม่ SETI@home แสดงให้เห็นการคำนวณแบบกระจายในปี 1999 Folding@home ประกอบระบบคอมพิวเตอร์ที่ทรงพลังที่สุดระบบหนึ่งบนโลกจากเครื่องที่อาสาสมัครบริจาค เพื่อจำลองการพับโปรตีน BOINC เปิดให้โครงการคำนวณทางวิทยาศาสตร์หลายสิบโครงการทำงานผ่านรอบการประมวลผลที่บริจาค

สิ่งที่ใหม่คือโมเดลความเป็นเจ้าของ

ในโครงการคอมพิวเตอร์แบบกระจายก่อนหน้า ผู้มีส่วนร่วมบริจาคทรัพยากรฟรี ไม่มีกลไกตอบแทน ไม่มีการกำกับดูแลให้พวกเขากำหนดวิธีใช้ทรัพยากร ไม่มีการจัดวางทางเศรษฐกิจระหว่างการมีส่วนร่วมและผลตอบแทน

ใน Your 99 การมีส่วนร่วมทรัพยากรการคำนวณเป็นการมีส่วนร่วมเหมือนอย่างอื่น รอบ GPU ที่ว่างของคุณช่วยฝึกหรือรันโมเดล AI สำหรับผลิตภัณฑ์ Your 99 การมีส่วนร่วมของคุณถูกติดตาม คุณได้สัดส่วนการถือหุ้น พลังการคำนวณรวมของชุมชนกลายเป็นโครงสร้างพื้นฐานที่ไม่มีบริษัทเดียวต้องลงทุน -- และไม่มีบริษัทเดียวควบคุม

สิ่งนี้หมายถึงอะไรในขนาดใหญ่

ที่สมาชิก 1 ล้านคนที่มีส่วนร่วมการคำนวณที่ว่าง: เครือข่ายคอมพิวเตอร์แบบกระจายที่เทียบเท่าผู้ให้บริการคลาวด์ระดับกลาง

ที่สมาชิก 10 ล้านคน: เครือข่ายที่เข้าใกล้ขนาดของคลัสเตอร์ฝึก AI เฉพาะทาง

ที่สมาชิก 100 ล้านคน: ทรัพยากรการคำนวณที่ไม่มีบริษัทเดียวบนโลกสามารถเทียบเคียงได้ เป็นเจ้าของทั้งหมดโดยผู้มีส่วนร่วม กำกับดูแลโดยผู้ใช้

นี่ไม่ใช่โปรเจกต์ของวันพรุ่งนี้ มันต้องการความไว้วางใจ โครงสร้างพื้นฐาน โซลูชันด้านความปลอดภัย และชุมชนที่พิสูจน์โมเดลพื้นฐานแล้ว แต่มันคือทิศทาง และทุกการตัดสินใจที่เราทำตอนนี้ควรรักษาเส้นทางสู่ความเป็นไปได้นี้

---

ส่วนที่ 3 -- ปัญญารวม

สิ่งที่อาสาสมัครสร้าง

Wikipedia: สารานุกรมที่ใหญ่ที่สุดในโลก เขียนทั้งหมดโดยอาสาสมัคร ไม่มีกองบรรณาธิการที่ได้รับค่าจ้าง มีในกว่า 300 ภาษา ใช้โดยหลายพันล้านคน สร้างโดยคนที่มีส่วนร่วมเพราะต้องการ ไม่ใช่เพราะได้รับค่าจ้าง

Linux: ระบบปฏิบัติการที่ทำงานบนอินเทอร์เน็ตส่วนใหญ่ คลาวด์ส่วนใหญ่ อุปกรณ์ Android ส่วนใหญ่ ซูเปอร์คอมพิวเตอร์ส่วนใหญ่ของโลก สร้างและดูแลโดยชุมชนผู้มีส่วนร่วมแบบกระจาย ไม่มีบริษัทเดียวควบคุม

ซอฟต์แวร์โอเพนซอร์สโดยกว้าง: รากฐานของเทคโนโลยีสมัยใหม่ React, Python, PostgreSQL, Kubernetes, TensorFlow -- เครื่องมือที่ขับเคลื่อนซอฟต์แวร์ของโลกถูกสร้างร่วมกัน มักจะไม่มีค่าตอบแทนโดยตรง

โครงการเหล่านี้พิสูจน์สิ่งที่พิเศษ: ชุมชนแบบกระจายของคนที่มีแรงจูงใจสามารถสร้างสิ่งที่เทียบเท่าหรือเหนือกว่าสิ่งที่บริษัทที่มีเงินหลายพันล้านดอลลาร์ผลิตได้

สิ่งที่เจ้าของสามารถสร้าง

ลองเพิ่มสิ่งที่อาสาสมัครไม่เคยมี:

การจัดวางทางเศรษฐกิจ ผู้มีส่วนร่วมทุกคนได้รับตามสัดส่วนของการมีส่วนร่วม ไม่ใช่การกุศล ไม่ใช่ความปรารถนาดี ความเป็นเจ้าของ

การกำกับดูแล ผู้มีส่วนร่วมไม่ได้แค่สร้าง -- พวกเขาตัดสินใจ สร้างอะไรต่อไป จัดสรรทรัพยากรอย่างไร จะไปทิศทางไหน คนที่ทำงานกำหนดทิศทางงาน

ขนาดของแรงจูงใจ การอาสาสมัครดึงดูดเศษเสี้ยวของกลุ่มที่มีศักยภาพ -- คนที่มีเวลา สิทธิพิเศษ และอุดมคติเพียงพอที่จะทำงานฟรี ความเป็นเจ้าของดึงดูดทุกคน พยาบาลที่ไม่สามารถอาสาสมัครหลายร้อยชั่วโมงสามารถมีส่วนร่วมด้วยความเชี่ยวชาญเฉพาะทางระหว่างวันทำงาน โดยใช้เครื่องมือที่ใช้อยู่แล้ว และได้สัดส่วนการถือหุ้นที่เป็นประโยชน์จริง

ผลตอบแทนทบต้น ในโอเพนซอร์ส ผู้มีส่วนร่วมให้และชุมชนได้ประโยชน์ ใน Your 99 ผู้มีส่วนร่วมให้ ชุมชนได้ประโยชน์ ผลิตภัณฑ์ดีขึ้น รายได้เพิ่ม การแจกจ่ายเพิ่ม คนมากขึ้นเข้าร่วม คนมากขึ้นมีส่วนร่วม วงล้อมีเชื้อเพลิงทางเศรษฐกิจที่การอาสาสมัครไม่เคยมี

สิ่งที่ Wikipedia ทำเพื่อความรู้ สิ่งที่ Linux ทำเพื่อระบบปฏิบัติการ Your 99 สามารถทำเพื่อทุกหมวดของซอฟต์แวร์ แล้วสำหรับ AI แล้วสำหรับโครงสร้างพื้นฐานการคำนวณ แล้วสำหรับสิ่งที่เรายังจินตนาการไม่ได้ เพราะเราไม่เคยมีชุมชนขนาดนี้ที่มีการจัดวางแบบนี้

---

ส่วนที่ 4 -- ทำไมการไม่ทำอะไรคือความเสี่ยงที่แท้จริง

นี่ไม่ใช่คำเชิญชวน นี่คือการประเมินความเสี่ยง

ทิศทางปัจจุบันชัดเจน: ห้องปฏิบัติการ AI สร้างระบบที่ทรงพลังมากขึ้น ควบคุมโดยคนที่น้อยลง ฝึกด้วยข้อมูลส่วนตัวของมนุษย์ที่ลึกซึ้งมากขึ้น โดยไม่มีการกำกับดูแลที่มีความหมายจากคนที่ได้รับผลกระทบ

เวอร์ชันมองโลกในแง่ดี: AI ทำให้ทุกอย่างดีขึ้น บริษัทเป็นผู้พิทักษ์ที่รับผิดชอบ มนุษยชาติได้ประโยชน์ เป็นไปได้ ไม่รับประกัน

เวอร์ชันมองโลกในแง่ร้าย: AI รวมศูนย์อำนาจมากขึ้น กำจัดงานโดยไม่แจกจ่ายผลประโยชน์ทางเศรษฐกิจ และคนที่สร้างโมเดลตัดสินใจที่กระทบหลายพันล้านคนโดยไม่มีความรับผิดชอบ

เวอร์ชันสมจริงอยู่ตรงกลาง แต่ช่วงของผลลัพธ์ที่เป็นไปได้กว้าง -- จากประโยชน์มหาศาลถึงข้อกังวลระดับสูญพันธุ์ และคนที่มีส่วนได้ส่วนเสียมากที่สุด -- พวกเราทุกคน -- มีอิทธิพลน้อยที่สุดต่อผลลัพธ์ที่จะได้

Your 99 ไม่ใช่คำตอบเดียว แต่มันเป็นคำตอบหนึ่ง

มันบอกว่า: คนที่ใช้เครื่องมือเหล่านี้ ที่สร้างข้อมูลที่ฝึกพวกมัน ที่ให้ข้อเสนอแนะที่ปรับปรุงพวกมัน ที่พึ่งพาพวกมันทุกวัน -- คนเหล่านั้นควรมีความเป็นเจ้าของและการกำกับดูแล

ไม่ใช่ในฐานะหลักการนามธรรม แต่ในฐานะโครงสร้างทางกฎหมาย ในฐานะกลไกทางเศรษฐกิจ ในฐานะชุมชนที่มีชีวิตและทำงานจริง ที่พิสูจน์ว่าทางเลือกไม่ใช่แค่เป็นไปได้ แต่ดีกว่า

การรอให้รัฐบาลกำกับดูแล AI ผลิตแถลงการณ์แสดงความกังวลและการกำกับดูแลน้อยมาก การรอให้บริษัทกำกับดูแลตัวเองผลิตคณะกรรมการจริยธรรมที่ถูกยุบเมื่อไม่สะดวก การรอให้ "ใครสักคน" แก้ไขผลิตการรอ

เราไม่รอ เรากำลังสร้าง

ไม่ใช่เพราะเรามั่นใจว่ามันจะได้ผล แต่เพราะต้นทุนของการลองแล้วล้มเหลวนั้นพอประมาณ -- เวลาบ้าง ความพยายามบ้าง ซอฟต์แวร์ที่ไม่จำเป็นบ้าง และต้นทุนของการไม่ลอง หากทิศทางยังคงดำเนินไปโดยไม่ถูกตรวจสอบ คือทุกอย่าง

---

สิ่งที่เรากำลังสร้างมุ่งไปหา

ชุมชนที่:

• ทุกผลิตภัณฑ์ดิจิทัลที่คุณใช้เป็นของผู้ใช้
• AI ถูกปรับปรุงโดยคนที่ใช้มัน และพวกเขาเป็นเจ้าของการปรับปรุง
• พลังการคำนวณถูกแบ่งปัน ไม่ใช่กักตุน
• ความเชี่ยวชาญเฉพาะทางเป็นการมีส่วนร่วมที่ได้รับการยอมรับ ไม่ใช่ทรัพยากรที่ถูกเอาเปรียบ
• คนที่สร้างคุณค่า -- โดยการใช้ โดยการสร้าง โดยการคิด โดยการใส่ใจ -- เป็นเจ้าของคุณค่าที่ตนสร้าง
• ทิศทางของเทคโนโลยีที่ทรงพลังที่สุดที่เคยถูกสร้างถูกกำหนดโดยคนจำนวนมาก ไม่ใช่คนจำนวนน้อย

นี่ไม่ใช่เฟส 1 นี่ไม่ใช่เฟส 5 นี่คือขอบฟ้า ทุกการตัดสินใจที่เราทำตอนนี้ -- สร้างผลิตภัณฑ์ตัวไหนก่อน ชุมชนอภิปรายอย่างไร น้ำเสียงที่เราตั้ง ค่านิยมที่เราฝัง -- เดินไปหาสิ่งนี้หรือเดินออกห่าง

เราเลือกเดินไปหา

---

เอกสารนี้เป็นอุดมคตินิยม เราพูดไว้ตั้งแต่ต้น แต่ลองพิจารณาทางเลือก: ยอมรับว่าบริษัทห้าแห่งและคณะกรรมการของพวกเขาจะกำหนดอนาคตของ AI ของงาน ของวิธีที่ข้อมูลไหล ของสิ่งที่เป็นจริงและสิ่งที่ถูกสร้าง นั่นไม่ใช่ความเป็นจริง นั่นคือการยอมจำนนที่แต่งตัวเป็นความสมจริง

เราเลือกอุดมคตินิยมที่ซื่อสัตย์มากกว่าการยอมจำนนที่สบายใจ