สมมุติฐานที่ 1: โลกจะพัฒนาไปถึงจุด Singularity และ AI อาจจะทำลายล้างมนุษย์!!
คงไม่มีใครปฏิเสธได้แล้วว่า AI ได้ฉลาดกว่ามนุษย์ในบางเรื่องไปแล้ว เช่น AI “อัลฟาโกะ” ที่แข่งขันเล่นหมากล้อมชนะเซียนโกะระดับโลก แต่อย่างไรก็ตาม AI ก็ยังมีจุดอ่อนอีกหลายด้าน เช่น AI ถูกสร้างมาเพื่อเป้าหมายอย่างใดอย่างหนึ่งโดยเฉพาะ ทำให้มันไม่สามารถเข้าใจสิ่งที่ซับซ้อนเหนือกว่าตรรกะเหตุผลแบบมนุษย์ได้ เช่น เรื่องนามธรรม หรือ อารมณ์ความรู้สึก
หากแต่ก็เริ่มมีผู้เชี่ยวชาญหลายท่านที่คาดการณ์ว่าเมื่อ AI พัฒนาความฉลาดของตนเองไปจนถึงระดับหนึ่ง มันอาจจะเริ่มพัฒนาตัวเองให้คล้ายมนุษย์ด้วยการมี “สำนึก” (Consciousness) ซึ่งหากเป็นเช่นนั้นจริง ไม่มีใครรู้เลยว่า “สำนึก” ของ AI จะเป็นอย่างไร มันจะให้คุณค่ากับสิ่งใดบ้าง และที่น่ากลัวที่สุดคือ มันจะยังให้คุณค่ากับ “มนุษย์” ผู้ฉลาดน้อยกว่ามันหรือไม่