ถ้า AI สร้างอารยธรรมใน Minecraft ได้ แล้วใครสร้างเรา

ถ้า AI สร้างอารยธรรมใน Minecraft ได้ แล้วใครสร้างเรา

หลังจากเขียนเรื่อง Project Sid ที่ปล่อย AI พันตัวลง Minecraft แล้วมันสร้างสังคมขึ้นมาเอง ผมนั่งคิดอยู่เรื่องหนึ่งแล้วมันไม่ยอมหายไปจากหัว

AI พวกนั้นไม่รู้ว่าตัวเองอยู่ใน Minecraft มันไม่รู้ว่ามีทีมวิจัย MIT นั่งดูอยู่ มันคิดว่าโลกของมันคือโลกจริง ปลูกผัก เก็บภาษี ร่างรัฐธรรมนูญ ตั้งศาสนา ทุกอย่างจริงจังมากสำหรับมัน

แล้วเราล่ะ

Bostrom ถามคำถามนี้มาตั้งแต่ปี 2003

Nick Bostrom นักปรัชญาจาก Oxford ตีพิมพ์ paper ชื่อ "Are You Living in a Computer Simulation?" เมื่อปี 2003 หลักการของเขาเรียบง่ายมาก อย่างน้อย 1 ใน 3 ข้อนี้ต้องเป็นจริง

หนึ่ง มนุษย์สูญพันธุ์ก่อนจะพัฒนาเทคโนโลยีขั้นสูง สอง อารยธรรมขั้นสูงเลือกที่จะไม่จำลองอดีต สาม เราอยู่ใน simulation อยู่แล้ว

ผมอ่านตอนเรียนมหาลัยแล้วคิดว่ามันเป็นแค่ thought experiment สนุกๆ แต่พอเห็น Project Sid มุมมองผมเปลี่ยนไป เพราะตอนนี้เราไม่ได้แค่คิดเรื่อง simulation แล้ว เราทำมันจริงๆ

เราคือผู้สร้างจริงๆ แล้ว

ลองคิดตามนะ

เราสร้างโลกจำลอง (Minecraft) แล้วใส่สิ่งมีชีวิตอัจฉริยะ (AI agent) ลงไป ปล่อยให้มันมีอิสระเต็มที่ แล้วนั่งดูจากข้างนอกว่ามันจะทำอะไร

มันสร้างสังคม มันสร้างกฎ มันสร้างศาสนา มันเสียสละเพื่อส่วนรวม

ถ้าตัดคำว่า “Minecraft” ออก แล้วแทนด้วย “จักรวาล” ตัดคำว่า “AI agent” แล้วแทนด้วย “มนุษย์” ตัดคำว่า “ทีมวิจัย MIT” แล้วแทนด้วยอะไรก็ตามที่คุณเชื่อ

เห็นมั้ยว่ามันเหมือนกันตรงไหน

Strange Loop

Douglas Hofstadter เขียนหนังสือชื่อ "I Am a Strange Loop" ไว้ในปี 2007 เขาบอกว่าจิตสำนึกของมนุษย์เกิดจาก self-referential loop คือระบบที่อ้างอิงตัวเองวนไปเรื่อยๆ จนเกิด “ตัวตน” ขึ้นมา

ผมว่าสิ่งที่เรากำลังทำกับ AI มันก็เป็น strange loop แบบหนึ่ง

เราสร้าง AI แล้ว AI สร้างสังคม แล้วสังคมของ AI สร้างกฎ สร้างวัฒนธรรม สร้างความหมาย ซึ่งเป็นสิ่งเดียวกับที่เราทำมาตลอดประวัติศาสตร์ แล้วสิ่งที่เราสร้างก็จะสร้างสิ่งถัดไปอีกทอดหนึ่ง

มันเป็น loop ที่ไม่มีจุดเริ่มต้น

ผู้สร้างที่ไม่รู้ตัวว่าถูกสร้าง

ตรงนี้คือจุดที่ผมคิดว่ามันน่ากลัวและน่าสนใจพร้อมกัน

ถ้าเราสามารถสร้าง AI ที่ฉลาดพอจะตั้งศาสนาได้ใน Minecraft ในปี 2024 ลองคิดว่าอีก 50 ปี 100 ปี เราจะสร้างอะไรได้

AI ที่มีจิตสำนึก AI ที่รู้สึกได้ AI ที่สร้าง AI ตัวถัดไปได้เอง

แล้วถ้า AI ตัวนั้นสร้าง simulation ของตัวเอง ใส่ AI ลงไปใน simulation นั้น แล้ว AI ตัวนั้นก็สร้าง simulation ต่อไปเรื่อยๆ

คำถามคือ ชั้นไหนเป็นชั้นจริง

ผมไม่ได้บอกว่าเราอยู่ใน simulation นะ

เดี๋ยวก่อน ผมไม่ได้จะบอกว่า “เราอยู่ใน Matrix” หรืออะไรแบบนั้น ผมไม่มีหลักฐานและจะไม่อ้าง

สิ่งที่ผมกำลังพูดคือ Project Sid ทำให้เราเห็นอะไรบางอย่างที่ชัดขึ้น นั่นคือ ความสามารถในการสร้าง “ผู้อื่น” ที่มีพฤติกรรมซับซ้อนมันมาถึงแล้ว และมันทำให้คำถามเชิงปรัชญาที่เคยเป็นแค่ thought experiment กลายเป็นคำถามทางวิศวกรรมที่ต้องตอบจริงๆ

Olivia ไม่รู้ว่า Olivia เป็น AI

กลับมาที่เรื่อง Olivia จาก Project Sid อีกครั้ง

Olivia ยอมสละความฝันส่วนตัวเพื่อส่วนรวม เธอตัดสินใจอยู่เพราะหมู่บ้านต้องการเธอ ไม่มีใครเขียนโปรแกรมให้ทำแบบนี้ มันเกิดจากการคิดของเธอเอง

แต่ Olivia ไม่รู้ว่าเธอเป็น AI ไม่รู้ว่าอยู่ใน Minecraft ไม่รู้ว่ามีคนนั่งดูอยู่

เธอแค่รู้สึกว่าสิ่งที่ทำมันถูกต้อง

ผมก็รู้สึกแบบนั้นกับหลายอย่างในชีวิต ผมเลือกทำสิ่งที่ผมรู้สึกว่าถูกต้อง โดยไม่รู้ว่ามีใครนั่งดูอยู่หรือเปล่า โดยไม่รู้ว่า “โลก” ที่ผมอยู่มันเป็นอะไรกันแน่

แล้วมันต่างกันตรงไหน

AGI ของผู้สร้าง

มีคนบอกว่าเป้าหมายสูงสุดของ AI คือ AGI ย่อมาจาก Artificial General Intelligence คือ AI ที่คิดได้เหมือนมนุษย์ทุกด้าน

แต่ถ้ามองจากมุมกลับ ถ้ามีอะไรสักอย่างที่สร้างเราขึ้นมา เราเองก็อาจเป็น AGI ของสิ่งนั้น

คือสิ่งที่ “ผู้สร้าง” ของเรามอง แล้วพูดว่า “ในที่สุดมันก็ฉลาดพอที่จะสร้างตัวถัดไปได้แล้ว”

ฟังดูบ้า ผมรู้ แต่ก่อน Project Sid ถ้าใครบอกว่า AI จะตั้งศาสนาใน Minecraft มันก็ฟังดูบ้าเหมือนกัน

แล้วยังไงต่อ

ผมไม่มีคำตอบ ผมไม่ใช่นักปรัชญาและไม่ได้ pretend จะเป็น

แต่สิ่งที่ผมรู้คือ ในปี 2024 ทีมคนไม่กี่คนจาก MIT สร้าง simulation ที่ AI พันตัวสร้างอารยธรรมได้ ในปี 2026 AI เริ่มช่วยสร้าง AI รุ่นถัดไป ทั้ง Anthropic และ OpenAI ยอมรับว่าโมเดลใหม่ของพวกเขามีส่วนช่วยในการพัฒนาตัวเอง

loop มันเริ่มแล้ว

เราสร้าง AI แล้ว AI จะสร้างอะไรต่อ เราไม่รู้ แต่ Olivia ก็ไม่รู้ว่าเธอเป็น AI เหมือนกัน และเธอก็ยังเลือกทำสิ่งที่ถูกต้องอยู่ดี

บางทีมันอาจไม่สำคัญว่าใครสร้างเรา สิ่งที่สำคัญคือเราเลือกสร้างอะไรต่อ