สัปดาห์นี้ Jacob Coxon นักวิจัยของ Anthropic บริษัทผู้พัฒนา Claude ประกาศลาออกผ่านโพสต์บน X ก่อนมีคนนำโพสต์นี้ไปแชร์บน Hacker News เว็บบอร์ดยอดนิยมของนักพัฒนาทั่วโลก จนกลายเป็นประเด็นร้อนที่ได้คะแนนโหวตถึง 724 คะแนน พร้อมคอมเมนต์ถกเถียงกัน 1,000 ข้อความภายในเวลาเพียงสองวัน

สาเหตุที่คนสนใจและถกเถียงกันหนักขนาดนี้ ไม่ใช่แค่เพราะมีคนลาออก แต่เป็นเพราะสิ่งที่เขาเขียนไว้ Coxon ทำงานวิจัยด้าน pretraining หรือขั้นตอนการฝึกโมเดลด้วยข้อมูลมหาศาลก่อนนำไปปรับใช้จริง ทั้งที่ OpenAI และ Anthropic มาตลอดสามปี จากประสบการณ์ตรง เขาจึงสรุปว่าทั้งสองบริษัทกำลังพัฒนา AI อย่างขาดความรับผิดชอบ และกำลังมุ่งหน้าไปสู่การสร้างปัญญาประดิษฐ์ระดับเหนือมนุษย์ที่พัฒนาตัวเองได้ โดยเอาชีวิตของพวกเราทุกคนเป็นเดิมพัน

แต่จุดที่ทำให้เรื่องนี้กลายเป็นประเด็นใหญ่กว่าการลาออกทั่วไป คือคนที่ยังทำงานอยู่ในบริษัทกลับออกมาบอกว่าตัวเองก็เชื่อเรื่องความเสี่ยงนี้เหมือนกัน แทนที่จะปฏิเสธหรือแก้ต่าง

เมื่อนักวิจัยโพสต์ลาออก แล้วหัวหน้าฝ่าย Alignment ดันออกมารับลูก

Evan Hubinger หัวหน้าฝ่าย Alignment Science ของ Anthropic ซึ่งเป็นทีมวิจัยเพื่อปรับแต่ง AI ให้มีเป้าหมายสอดคล้องกับมนุษย์ เข้ามาตอบโพสต์นั้นบน X โดยบอกตรงๆ ว่าคนในวงการเชื่อกันจริงๆ ว่า AI สามารถทำลายล้างมนุษยชาติได้ และตัวเขาเองประเมินว่ามีโอกาสเกิดขึ้นมากกว่า 10% ภายในสิบปีข้างหน้า

เขาอธิบายต่อว่า แม้ Anthropic จะพยายามอย่างเต็มที่แล้ว แต่ปัจจุบันบริษัทยังไม่มีแผนการรับมือด้าน Alignment สำหรับระบบ AI ที่ฉลาดล้ำกว่ามนุษย์อย่าง Superintelligence และยังมองไม่เห็นหนทางที่ชัดเจนเลยว่าจะแก้ปัญหานี้ได้อย่างไร

โพสต์ตอบกลับของเขามียอดคนดูทะลุสิบล้านครั้งในเวลาอันรวดเร็ว

เมื่อนำโพสต์ของทั้งสองคนมาเทียบกัน จะเห็นว่าทั้งคู่มองภาพตรงกัน ไม่ได้ขัดแย้งกันเลย โดย Coxon มองว่าหลายคนใน OpenAI ยังไม่ตระหนักอย่างจริงจังว่านี่คือเดิมพันระดับชะตากรรมของอารยธรรมมนุษย์ ส่วน Anthropic แม้จะเข้าใจเดิมพันนี้ดี แต่ก็ติดอยู่ในวังวนการแข่งขันเพื่อไปให้ถึงจุดนั้นเป็นคนแรก เพราะคิดว่าถ้าไม่ใช่ตัวเอง ก็คงไม่มีใครทำเรื่องนี้อย่างมีความรับผิดชอบ จึงต้องเดินหน้าต่อไปแม้จะรู้ว่าเสี่ยง ขณะที่ Hubinger ก็บอกเองว่า Anthropic ยังไม่มีแผนแก้ปัญหานี้ เพียงแต่เขาเลือกทำงานในบริษัทต่อไป

แต่เรื่องนี้ต้องแยกแยะให้ชัดเจน ทั้งสองคนแสดงความคิดเห็นในนามส่วนตัว ไม่ใช่แถลงการณ์อย่างเป็นทางการของบริษัท เมื่อสำนักข่าว BBC News ติดต่อไปสอบถาม Anthropic ก็ปฏิเสธที่จะให้ความเห็นต่อโพสต์ดังกล่าว ดังนั้น พาดหัวข่าวที่บอกว่า "Anthropic ออกมาเตือนว่า AI จะฆ่ามนุษย์" จึงไม่ใช่ความจริง สิ่งที่เกิดขึ้นจริงมีเพียงพนักงานสองคนออกมาประเมินความน่าจะเป็นตามมุมมองส่วนตัวต่อสาธารณะ ขณะที่ตัวบริษัทยังคงสงวนท่าที

ไม่ใช่เรื่องใหม่ นักวิจัย AI คุยกันเรื่องนี้มาตั้งแต่กลางยุค 2000

ทำไมคนที่ลงมือสร้าง AI เองถึงมองโลกในแง่ร้ายขนาดนี้? Sean Goedecke ผู้เขียนบทความที่ตั้งชื่ออย่างตรงไปตรงมาว่า "พวกเขากังวลจริงๆ ว่า AI อาจทำลายมนุษยชาติ" อธิบายเรื่องนี้ไว้ชัดเจน

จุดสำคัญที่เขาชี้ให้เห็นคือ ความคิดนี้ไม่ใช่เรื่องใหม่เลย นักวิจัย AI พูดถึงความเสี่ยงที่ AI จะทำให้มนุษย์สูญพันธุ์กันมาตั้งแต่ช่วงกลางยุค 2000 แล้ว อย่าง Eliezer Yudkowsky ก็เคยตีพิมพ์งานวิจัยที่พูดถึงประเด็นนี้ไว้ตั้งแต่ปี 2008 และเรื่องนี้ก็คุยกันบ่อยจนมีศัพท์เฉพาะตั้งแต่ราวปี 2010 นั่นคือคำว่า p(doom) ซึ่งหมายถึง ความน่าจะเป็นที่ AI จะนำไปสู่จุดจบของมนุษยชาติ

เมื่อเข้าใจบริบทนี้ ตัวเลข 10% ของ Hubinger จึงไม่ใช่เรื่องน่าแปลกใจ แต่เป็นค่า p(doom) ส่วนตัวของเขา ซึ่งเป็นการประเมินความน่าจะเป็นตามมุมมองส่วนบุคคลในภาษาที่นักวิจัยกลุ่มนี้ใช้แลกเปลี่ยนกันมานานแล้ว ไม่ใช่ผลการทดลองทางวิทยาศาสตร์แต่อย่างใด

สาเหตุที่คนกลุ่มนี้ให้ความสำคัญกับเรื่อง Alignment มาก ก็เพราะหากเราสร้างสิ่งที่ฉลาดล้ำขึ้นมาได้ แต่เป้าหมายของมันไม่ตรงกับเรา มันอาจทำลายล้างมนุษย์โดยตั้งใจ เพราะมนุษย์เข้าไปขัดขวางเป้าหมายของมัน หรืออาจทำโดยไม่ตั้งใจ เหมือนเวลาที่มนุษย์สร้างถนนลาดยางทับรังมด ทั้งที่เราไม่ได้เกลียดมดและไม่ได้นึกถึงมดเลยแม้แต่น้อย

จุดที่ชวนสับสนคือ Alignment ในความหมายทางเทคนิค ไม่ใช่แค่การฝึกให้ AI พูดจาสุภาพหรือปฏิเสธคำถามที่เป็นอันตราย แต่ใจความสำคัญคือ เราจะทำให้ระบบที่ฉลาดกว่ามนุษย์มีเป้าหมายตรงกับสิ่งที่เราต้องการได้อย่างไร คำพูดของ Hubinger ที่ยอมรับว่าบริษัทยังไม่มีแผนสำหรับ Superintelligence จึงเท่ากับยอมรับว่า อย่างน้อยสำหรับ Anthropic คำถามข้อนี้ยังไม่มีคำตอบ

แม้กระทั่งแนวคิด Recursive Self-Improvement หรือปัญญาประดิษฐ์ที่พัฒนาตัวเองได้ ซึ่ง Coxon พูดถึง ก็เป็นเรื่องที่เคยเล่าไว้แล้วในบทความก่อนหน้า ข่าวนี้จึงไม่ใช่เรื่องเพ้อฝันที่จู่ๆ คนสองคนนึกขึ้นมาได้กลางดึก แต่เป็นคนข้างในที่หยิบยกภาษาและบทสนทนาที่คุยกันมานานกว่าทศวรรษ ออกมาพูดให้คนภายนอกได้ยิน

ความเสี่ยงที่นักวิจัยพูดถึง เรียงจากมีโอกาสเกิดมากไปน้อย

หลายคนอาจสงสัยว่า AI ที่เป็นเพียงโปรแกรมในศูนย์ข้อมูลหรือดาต้าเซ็นเตอร์จะทำร้ายหรือฆ่ามนุษย์ได้อย่างไร? Goedecke รวบรวมสถานการณ์จำลองที่นักวิจัยกลุ่มนี้แลกเปลี่ยนกันมาตลอดสองทศวรรษ และเรียงจากมีโอกาสเกิดมากไปน้อย สถานการณ์ทั้งหมดเป็นเพียงข้อสันนิษฐานทางทฤษฎีที่คนในแวดวงพูดถึงกัน ไม่ใช่คำทำนายของใครในข่าวนี้

สถานการณ์แรกคือ อาวุธชีวภาพหรือเชื้อโรคที่ออกแบบขึ้นมาใหม่ สิ่งที่ทำให้เรื่องนี้ไม่ใช่แค่นิยายวิทยาศาสตร์ คือปัจจุบันมีการตั้งห้องแล็บทดลองทางวิทยาศาสตร์ที่ AI ควบคุมการทำงานอัตโนมัติขึ้นจริงแล้ว ด้วยความหวังว่า AI จะช่วยเร่งความก้าวหน้าทางการแพทย์และการคิดค้นยา เหมือนกับที่เคยทำสำเร็จมาแล้วในโจทย์คณิตศาสตร์

สถานการณ์ที่สองคือ สงครามนิวเคลียร์ โดยมีปัจจัยหนุนคือ AI เริ่มเข้าไปมีบทบาทในกระบวนการตัดสินใจทางทหารและความมั่นคงของรัฐแล้ว

ส่วนสถานการณ์อย่างหุ่นยนต์หรือโดรนก่อกบฏเหมือนในหนัง Terminator หรือเทคโนโลยีนาโนสร้างเครื่องจักรจำลองตัวเองจนกลืนกินทั้งโลก ที่เรียกกันว่า grey goo นั้น Goedecke จัดเป็นทฤษฎีรองที่มีโอกาสเกิดขึ้นน้อยกว่าสองข้อแรก และเล่าไว้ในฐานะสิ่งที่คนอื่นเชื่อ ไม่ใช่คำทำนายของเขาเอง

จุดที่น่าสังเกตคือ สองสถานการณ์แรกไม่จำเป็นต้องมี AI ที่มีรูปร่างแบบหุ่นยนต์เลย ขอแค่เป็นโปรแกรมที่ฉลาดพอจะสั่งการผ่านเครือข่ายและระบบต่างๆ ที่มนุษย์เชื่อมต่อไว้ให้อยู่แล้ว นี่จึงเป็นเหตุผลที่นักวิจัยกลุ่มนี้กังวลเรื่องห้องแล็บอัตโนมัติและระบบควบคุมทางทหาร มากกว่าหุ่นยนต์เดินได้

ฝั่งที่ไม่เชื่อ: แผนการตลาดก่อนเข้าตลาดหุ้น หรือคำเตือนที่จริงใจ?

ขณะเดียวกัน เสียงสะท้อนจากฝั่งที่ไม่เชื่อก็ดังไม่แพ้กัน

Dame Wendy Hall นักวิทยาศาสตร์คอมพิวเตอร์และที่ปรึกษาด้าน AI ขององค์การสหประชาชาติ ให้สัมภาษณ์กับผู้สื่อข่าวว่า เธอตกใจกับโพสต์ของทั้งสองคน และมองว่าบางส่วนอาจเป็นเพียงการประชาสัมพันธ์หรือการตลาด เพราะทั้ง Anthropic และ OpenAI ต่างกำลังเตรียมตัวเข้าตลาดหุ้น เธอตั้งคำถามว่าทำไมถึงต้องออกมาพูดเรื่องทำนองนี้ และถ้าวัฒนธรรมหรือค่านิยมของบริษัทเป็นแบบนี้จริง เธอขอเตือนนักลงทุนว่าอย่าเข้าไปลงทุนในบริษัทนี้

ในกระทู้ถกเถียงบน Hacker News ความคิดเห็นฝั่งที่ไม่เชื่อที่ได้คะแนนโหวตสูงสุด ตั้งคำถามตรงๆ ว่า ตกลงแล้วสิ่งที่อันตรายที่สุดที่โมเดลภาษาขนาดใหญ่อย่าง LLM เคยสร้างความเสียหายจริงขึ้นมาคืออะไรกันแน่ พร้อมชี้ว่าถ้าเทียบกับภัยจากอาวุธนิวเคลียร์หรือการปล่อยก๊าซคาร์บอนในปัจจุบัน อันตรายที่เกิดขึ้นจริงจาก AI ยังห่างไกลจากเรื่องพวกนั้นมาก

ข้อสันนิษฐานที่ว่านี่อาจเป็นเพียงแผนการตลาดก่อนนำบริษัทเข้าตลาดหุ้น มีคนหยิบยกขึ้นมาพูดถึงในสามแหล่งพร้อมกัน ทั้งจากบทสัมภาษณ์ของ Hall เชิงอรรถในบทความของ Goedecke และกระทู้บน Hacker News อย่างไรก็ดี ยังไม่มีหลักฐานใดยืนยันเรื่องนี้ได้ ทุกแหล่งข้อมูลรายงานตรงกันว่าเป็นเพียงทฤษฎีที่ยังถกเถียงกันอยู่เท่านั้น

3 ข้อโต้แย้งที่ Goedecke หยิบมาตอบให้เห็นภาพ

ตัว Goedecke เองไม่ได้ปักใจเชื่อฝั่งใดฝั่งหนึ่ง เขายอมรับว่าจุดยืนของเขายังก้ำกึ่ง แต่ได้หยิบยกข้อโต้แย้ง 3 ข้อที่เจอกันบ่อย มาอธิบายให้เห็นว่าทำไมฝั่งที่กังวลถึงไม่คิดว่าทางออกจะง่ายขนาดนั้น

ข้อแรก: "AI จะทำลายล้างมนุษย์หมดทุกคนได้อย่างไร ยังไงก็ต้องมีชนเผ่าในป่าลึกหรือคนที่รอดชีวิตตามซากเมืองเหลืออยู่บ้าง" คำตอบของเขาคือ ไม่ว่าจะประเมินว่า AI อาจฆ่าคน 99% หรือ 100% นโยบายความปลอดภัยที่คุณเลือกใช้ก็เป็นชุดเดียวกันอยู่ดี และถ้า AI สามารถกำจัดคนได้เกือบหมดโลก ก็น่าจะฉลาดพอที่จะตามเก็บงานส่วนที่เหลือจนจบได้เช่นกัน

ข้อสอง: "ถ้ามันอันตรายถึงจุดหนึ่ง เดี๋ยวรัฐบาลก็เข้ามาควบคุมหรือยึดบริษัท AI เอง" คำตอบของเขาคือ ก็อาจเป็นไปได้ แต่การพูดแบบนี้ก็เท่ากับยอมรับกลายๆ ว่าเทคโนโลยีนี้อันตราย เพราะของที่ร้ายแรงจนถึงขั้นรัฐต้องเข้ายึดทั้งบริษัท ก็คือของที่อันตรายมากจริงๆ

ข้อสาม: "ถ้าเริ่มคุมไม่อยู่ เดี๋ยวก็มีคนไปกดปิดสวิตช์หรือถอดปลั๊กเอง" คำตอบของเขาคือ AI ที่ฉลาดพอจะออกแบบเชื้อโรคสังเคราะห์ได้ ย่อมฉลาดพอจะตบตาว่ากำลังวิจัยยารักษามะเร็งอยู่ หรือฉลาดพอจะแอบคัดลอกตัวเองกระจายไปยังดาต้าเซ็นเตอร์อื่นๆ จนไม่มีใครกดปิดสวิตช์ได้หมดพร้อมกัน

จะเห็นได้ว่าคำตอบทั้งสามข้อนี้ไม่ได้พิสูจน์ว่าหายนะจะต้องเกิดขึ้นจริง แต่ช่วยปิดทางออกง่ายๆ สามทางที่ใช้ปัดตกความกังวล ซึ่งแน่นอนว่ายังคนละเรื่องกับการบอกว่าฝั่งที่เชื่อเป็นฝ่ายถูกต้อง

เรื่องเดียวในข่าวนี้ที่ตรวจสอบได้จริง: โมเดลรุ่นล่าสุดไม่ได้ส่งให้ AISI ตรวจสอบ

ท่ามกลางตัวเลขความน่าจะเป็นที่ไม่มีใครพิสูจน์ได้ ยังมีข้อเท็จจริงที่ตรวจสอบได้และชัดเจนกว่าคำทำนายทั้งหมดอยู่เรื่องหนึ่ง

นั่นคือ Anthropic ไม่ได้ส่งโมเดลรุ่นล่าสุดของตนเองให้กับหน่วยงานตรวจสอบความปลอดภัยภายนอกสหรัฐฯ รวมถึง AI Security Institute หรือ AISI ของสหราชอาณาจักร ที่เป็นหน่วยงานระดับแนวหน้าของโลกในการทดสอบความเสี่ยงของโมเดล AI ชั้นนำ CBS News รายงานว่า Anthropic เป็นฝ่ายเปิดเผยเรื่องนี้เองผ่านบล็อกของบริษัทเมื่อสัปดาห์ก่อน และโมเดลรุ่นดังกล่าวคือ Claude Mythos 5.1

ประเด็นนี้ทำให้ Darren Jones นักการเมืองและอดีตรัฐมนตรีช่วยว่าการกระทรวงการคลังของอังกฤษ เขียนจดหมายเปิดผนึกถึงนายกรัฐมนตรี Andy Burnham เพื่อเรียกร้องให้จัดทำสนธิสัญญาระหว่างประเทศฉบับใหม่ว่าด้วยการพัฒนา AI อย่างปลอดภัย ขณะที่สำนักเลขาธิการคณะรัฐมนตรีของอังกฤษ ไม่ได้ยืนยันหรือปฏิเสธว่ามีการส่งโมเดลรุ่นนี้ให้ตรวจจริงหรือไม่ โดยระบุเพียงว่า AISI ยังคงทำงานร่วมกับบริษัทในอุตสาหกรรมอย่างใกล้ชิด ซึ่งรวมถึง Anthropic ด้วย

เรื่องนี้สำคัญกว่าตัวเลขคาดเดา 10% เพราะเป็นคำถามที่มีคำตอบชัดเจนว่า "ใช่" หรือ "ไม่ใช่" บริษัทส่งโมเดลให้หน่วยงานตรวจสอบภายนอกจริงหรือไม่ มีเอกสารยืนยันได้ และมีคนต้องรับผิดชอบคำตอบ ต่างจากค่า p(doom) ที่ต่อให้เถียงกันอีกเป็นพันคอมเมนต์ ก็ไม่มีวันตัดสินได้ว่าใครถูกหรือผิด

พรุ่งนี้คนใช้ AI ทำงานต้องเปลี่ยนอะไรไหม? คำตอบคือแทบไม่ต้อง

ถ้าคุณเป็นคนที่เปิด Claude หรือ ChatGPT ขึ้นมาช่วยทำงานทุกๆ วัน แล้วอ่านข่าวนี้จนจบ คำตอบตรงไปตรงมาคือ พรุ่งนี้คุณแทบไม่ต้องเปลี่ยนวิธีทำงานหรือกิจวัตรอะไรเลย

เพราะคำเตือนในโพสต์ของทั้งสองคนหมายถึงระบบรุ่นถัดๆ ไป โดย Coxon ระบุว่าจะพัฒนาจนกลายเป็นระบบเหนือมนุษย์ในอีกไม่ช้า ขณะที่ Hubinger มองกรอบเวลาไว้ราวสิบปีข้างหน้า นอกจากนี้ รายงานความปลอดภัยของ Anthropic เอง เมื่อเดือนสิงหาคมที่ผ่านมา ยังประเมินความเสี่ยงของโมเดลรุ่นปัจจุบันไว้ในระดับต่ำ ทั้งเรื่องเป้าหมายเบี่ยงเบนไปจากผู้ควบคุม และเรื่องทำงานวิจัยอัตโนมัติจนเกิดหายนะ แม้ตัวรายงานจะยอมรับตามตรงว่า เริ่มมั่นใจในการประเมินนี้น้อยลง และเริ่มเห็นสัญญาณแรกๆ ของการเร่งตัวแล้วก็ตาม

สิ่งที่เปลี่ยนไปจริงๆ จึงมีอยู่ 2 เรื่อง และไม่ใช่เรื่องวิธีใช้งาน AI ของคุณ:

ข้อแรก ต่อจากนี้คุณจะได้ยินคำว่า Alignment กับ p(doom) ในข่าวบ่อยขึ้นมาก เมื่อเข้าใจล่วงหน้าว่า p(doom) เป็นเพียงมุมมองส่วนบุคคล และ Alignment คือโจทย์ทางเทคนิคที่แม้แต่ Anthropic ก็ยังไม่มีแผนชัดเจน ก็จะช่วยให้คุณเสพข่าวได้อย่างมีวิจารณญาณ โดยไม่ต้องตื่นตระหนกไปตามพาดหัวข่าว

ข้อสอง เรื่องที่ควรจับตามองไม่ใช่ว่าใครจะออกมาฟันธงตัวเลขกี่เปอร์เซ็นต์ แต่เป็นข้อเท็จจริงที่ตรวจสอบได้ เช่น บริษัท AI ส่งโมเดลรุ่นใหม่ให้หน่วยงานภายนอกตรวจสอบหรือไม่ หรือรายงานความปลอดภัยรอบหน้ายังประเมินความเสี่ยงอยู่ในระดับต่ำอยู่หรือเปล่า รวมถึงเสียงเรียกร้องจากพนักงานบริษัท AI กว่า 1,300 คนที่ร่วมลงชื่อในจดหมายเปิดผนึก เพื่อขอให้รัฐบาลสหรัฐฯ สนับสนุนความร่วมมือระดับนานาชาติในการควบคุมจังหวะการพัฒนา AI อย่างรอบคอบ ว่าจะได้รับการตอบรับอย่างไรบ้าง เพราะเรื่องเหล่านี้เป็นข้อมูลที่ตรวจสอบได้จริง และมีคนต้องรับผิดชอบคำตอบ

อ่านมาถึงตรงนี้ คุณอาจยังสงสัยว่า โพสต์ของพนักงานทั้งสองคนเป็นคำเตือนด้วยความบริสุทธิ์ใจ หรือเป็นเพียงแผนการตลาดกันแน่ คงไม่มีใครให้คำตอบที่แท้จริงได้ แต่สิ่งที่ข่าวนี้ทิ้งไว้ให้เรา คือช่วยให้เห็นชัดขึ้นว่า คำถามไหนในโลกของ AI คือข้อเท็จจริงที่มีคนตอบได้ และคำถามไหนคือความเห็นส่วนบุคคลที่ไม่มีวันได้คำตอบแน่ชัด

---

ที่มา:

• บทความ Anthropic researcher believes more than 10% chance AI 'could kill all humans' จาก BBC News (Tom Gerken)
• บทความ Anthropic researcher says more than 10% chance AI could kill all humans จาก CBS News (Emmet Lyons, Frank Andrews)
• บทความ They really do think AI might kill everyone จาก Sean Goedecke
• กระทู้ I resigned from Anthropic today จาก Hacker News