สรุปเนื้อหา AI และอนาคตของเรา กับ Yuval Noah Harari และ Mustafa Suleyman
สื่อใหญ่อย่าง The Economist ได้นำ Yuval Noah Harari และ Mustafa Suleyman มาร่วมกันถกเถียงเกี่ยวกับการปฏิวัติทางเทคโนโลยีครั้งใหญ่ที่สุดในยุคสมัยของมนุษย์เรา โดยมีการพูดคุยกันถึงผลกระทบของ AI ต่ออนาคตอันใกล้ วิธีการควบคุมเทคโนโลยีนี้ และความเป็นไปได้ที่ AI จะมีความเป็นอิสระในการตัดสินใจและมีสติปัญญาที่เหนือมนุษย์
Yuval Noah Harari นักประวัติศาสตร์ ผู้เขียนหนังสือขายดีระดับนานาชาติอย่าง Sapiens: A Brief History of Humankind และ Mustafa Suleyman ผู้ประกอบการ และผู้เขียนหนังสือชื่อดังอย่าง The Coming Wave : Technology, Power, and the Twenty-first Century’s Greatest Dilemma ได้ถกเถียงกันเกี่ยวกับความเสี่ยงและโอกาสของ AI โดยเน้นย้ำถึงความจำเป็นในการคิดหาแนวทางป้องกัน และการสร้างความร่วมมือกันในระดับโลกเพื่อกำหนดกฎระเบียบที่ชัดเจนเกี่ยวกับเทคโนโลยีนี้
Highlights
🤖 Mustafa คาดการณ์ว่าในอีก 5 ปีข้างหน้า โมเดล AI จะมีขนาดใหญ่ขึ้นกว่าพันเท่า และสามารถสร้างลำดับการกระทำได้ ไม่ใช่แค่สร้างข้อความ
👀 Yuval เตือนว่าการพัฒนา AI ที่มีความเป็นอิสระและมีความสามารถในการตัดสินใจด้วยตนเอง จะเป็นจุดสิ้นสุดของประวัติศาสตร์ที่มนุษย์เป็นผู้ครอบงำ
🔒 Mustafa เน้นย้ำถึงความสำคัญของการกำหนดข้อจำกัดในการพัฒนา AI เพื่อป้องกันผลลัพธ์ที่ไม่พึงประสงค์และเพื่อให้มั่นใจว่ามนุษย์ยังคงสามารถควบคุมพวกมันได้
👾 Yuval เปรียบเทียบภัยคุกคามที่อาจเกิดขึ้นจาก AI ขั้นสูงกับการรุกรานของมนุษย์ต่างดาว โดยชี้ให้เห็นถึงความท้าทายในการควบคุมสิ่งมีชีวิตที่มีความฉลาดเหนือมนุษย์
🛡️ Mustafa สนับสนุนการนำหลักการคิดแบบ Safety First มาใช้ในการพัฒนา AI เพื่อลดความเสี่ยงและให้ความสำคัญกับความปลอดภัยมากกว่าการแข่งขัน
🌍 Yuval เน้นย้ำถึงความจำเป็นที่ประเทศต่าง ๆ ต้องมีการพูดคุยกันเกี่ยวกับเทคโนโลยี AI เพื่อกำหนดกฎระเบียบการใช้งานร่วมกัน และปกป้องสังคมจากภัยคุกคามที่เกี่ยวข้องกับ AI
Key Insights
🤖 Yuval Noah Harari และ Mustafa Suleyman ได้ถกเถียงเกี่ยวกับความเสี่ยงและโอกาสของ AI โดยเน้นย้ำถึงความจำเป็นในการสร้างความร่วมมือและกฎระเบียบร่วมกัน เพื่อรับมือกับความก้าวหน้าทางเทคโนโลยีที่จะเป็นคลื่นลูกใหญ่ที่สุดที่มนุษย์เราไม่เคยประสบพบเจอมาก่อน
🚀 เทคโนโลยี AI กำลังพัฒนาอย่างรวดเร็ว โดยคาดการณ์ว่าภายในปี 2028 โมเดล AI จะมีขนาดใหญ่ขึ้นกว่าปัจจุบันเป็นพันเท่า และสามารถสร้างแนวคิดและกระบวนการทำงานใหม่ ๆ ได้อย่างอิสระ โดยไม่ต้องพึ่งพามนุษย์อีกต่อไป
👽 Yuval แสดงความกังวลเกี่ยวกับความเป็นไปได้ที่ AI จะมีความเป็นอิสระและมีสติปัญญา โดยเปรียบเทียบว่าเหมือนกับการเผชิญหน้ากับการรุกรานของมนุษย์ต่างดาวจากเทคโนโลยีที่อาจเหนือการควบคุมของมนุษย์
⚠️ Mustafa สนับสนุนการใช้หลักการคิดแบบ Safety First (ปลอดภัยไว้ก่อน) ในการพัฒนา AI โดยเรียกร้องให้มีการจำกัดความสามารถที่มีความเสี่ยงสูงบางอย่าง และให้มีการสร้างกรอบการกำกับดูแลที่อิงตามความเสี่ยงเหล่านี้
🌍 ความสำคัญของการสร้างพันธมิตรในเรื่องนี้กับประเทศต่าง ๆ ทั่วโลก ในการกำหนดกฎระเบียบสำหรับเทคโนโลยี AI แม้ว่าบางประเทศอาจไม่เห็นด้วย แต่สุดท้ายมันจะเป็นการทำเพื่อปกป้องสังคมและป้องกันการแข่งขันที่ไร้การควบคุม
🏛️ ความจำเป็นในการสร้างสถาบันหรือองค์กรใหม่ ๆ ที่มีทรัพยากรพร้อมทั้งด้านบุคลากร เศรษฐกิจ และเทคโนโลยี รวมถึงความไว้วางใจจากสาธารณชน เพื่อกำกับดูแลการพัฒนา AI และควบคุมความเสี่ยงที่อาจเกิดขึ้น
🛡️ ทั้ง Yuval และ Mustafa เน้นย้ำถึงความสำคัญของการกำหนดค่านิยมและกฎระเบียบของการใช้เทคโนโลยี AI เพื่อป้องกันเหล่าบริษัทเทคโนโลยีที่หิวโหยแต่เงินตรา ซึ่งท้ายที่สุดจะเป็นการปกป้องสังคมมนุษย์ในยุคแห่งความก้าวหน้าของ AI แบบไร้ขีดจำกัดเหมือนที่เราเห็นกันในทุกวันนี้
Opinion
เป็นสองสุดยอดนักคิดที่เราต้องหันมาฟังอย่างจริงจัง ในเรื่องการพัฒนาเทคโนโลยีใหม่อย่าง AI ที่ตอนนี้ เหล่าบิ๊กเทคในซิลิกอน วัลเลย์ กำลังทำทุกอย่างตามอำเภอใจ โดยไม่ได้สนใจผลกระทบที่จะเกิดขึ้นมากนัก
คราวนี้ลองมาคิดดูว่าต้องเป็นองค์กรระดับไหนที่จะมาควบคุมกำกับดูแล และมีทรัพยากรพร้อมเหมือนที่ทั้ง Yuval และ Mustafa ต้องการ ผมว่าต้องเป็นองค์กรระดับ UN ที่มีวัตถุประสงค์ในการก่อตั้งขึ้นมาดังนี้