วันเสาร์ที่ 12 กันยายน Dario Amodei ซีอีโอของ Anthropic เผยแพร่บทความชื่อ We Must Pace the Frontier โดยเสนอให้บริษัท AI แถวหน้าของวงการช่วยกันชะลอการพัฒนาขีดความสามารถของโมเดล ในวันเดียวกัน Sam Altman ซีอีโอของ OpenAI โพสต์บน X ว่าเห็นด้วย พร้อมระบุว่าข้อเสนอเรื่องผู้ประเมินอิสระจากภายนอกเป็นความคิดที่ดี ขณะที่ Elon Musk ก็โพสต์สั้นๆ ยืนยันว่า Dario พูดถูก

วันอาทิตย์ David Sacks ออกมาตอบโต้บน X อย่างดุเดือด ใจความสำคัญคือ ถ้าอยากชะลอก็เชิญทำไปเอง แต่เลิกทำเหมือนต้องรอให้ใครมาอนุญาตได้แล้ว ขณะเดียวกัน BBC รายงานว่าประธานาธิบดีสหรัฐฯ ปัดตกความกังวลทำนองนี้มาตลอด โดยมองว่าหากสหรัฐฯ ไม่ชนะการแข่งขันด้าน AI ประเทศจะตกอยู่ในอันตรายอย่างยิ่ง

สรุปคือ ผู้นำการแข่งขันบอกว่าวงการต้องช้าลง ฝ่ายค้านกฎเกณฑ์ใหม่บอกว่าอยากชะลอก็ทำไปคนเดียว ส่วนคนกลางมองว่าทั้งสองฝ่ายพูดถูกกันคนละครึ่ง สำหรับคนที่ใช้เครื่องมือช่วยเขียนโค้ดอย่าง Claude Code กับ Codex เป็นประจำ หรือกำลังสร้างธุรกิจบน API ของสองค่ายนี้ สิ่งสำคัญที่ต้องจับตาจากเหตุการณ์ในสัปดาห์นี้ไม่ใช่เรื่องความกลัว แต่เป็นจังหวะการปล่อยโมเดลรุ่นใหม่ว่าจะช้าลงจริงหรือไม่ รวมถึงใครจะเข้ามาตรวจสอบโมเดลก่อนปล่อยสู่สาธารณะ

ทำไมเรื่องนี้ถึงกลายเป็นประเด็นใหญ่ในสัปดาห์นี้

รายงานของ BBC เผยให้เห็นว่าบรรยากาศภายในวงการ AI เริ่มตึงเครียดมาระยะหนึ่งแล้ว Jacob Coxon นักวิจัยที่ลาออกจาก Anthropic ให้สัมภาษณ์ว่า คนข้างในบริษัท AI รู้สึกกลัวและกังวลกับอนาคตของมนุษยชาติในอีก 2 ปีข้างหน้าอย่างจริงจัง ทั้งผู้ก่อตั้งบริษัทเหล่านี้และคนที่สร้างเทคโนโลยีขึ้นมาเองก็เชื่อว่ามนุษย์มีโอกาสสูญพันธุ์ได้จริง

นอกจากนี้ BBC ยังระบุว่า เมื่อเดือนเมษายนที่ผ่านมา Anthropic ระงับการปล่อยโมเดลชื่อ Mythos หลังจากพบว่ามันสามารถหลุดออกจากสภาพแวดล้อมทดสอบได้เอง ส่วน OpenAI ก็หยุดพัฒนาบางส่วนของโมเดลชื่อ Astra ด้วยเหตุผลด้านความปลอดภัยทางไซเบอร์ เมื่อ Amodei เผยแพร่บทความท่ามกลางบรรยากาศแบบนี้ ผู้คนจึงตีความคำว่าชะลอว่าเป็นการสั่งหยุดพัฒนาได้ง่าย ทั้งที่เนื้อหาจริงในบทความระบุไว้ตรงกันข้าม

Pacing ไม่ใช่การสั่งหยุดพัฒนา

Amodei อธิบายชัดเจนว่า การ pace the frontier ไม่ได้แปลว่าให้หยุดเทรนโมเดลหรือหยุดพัฒนาความก้าวหน้าทางเทคโนโลยี แต่หมายถึงการกำหนดจังหวะการพัฒนา เพื่อให้บริษัทมีเวลามากพอในการทำ alignment หรือปรับแต่งให้โมเดลปลอดภัยและทำตามเจตนาของมนุษย์ วางระบบป้องกันความเสี่ยง และเปิดทางให้ผู้ประเมินจากภายนอกเข้ามาตรวจสอบว่าบริษัททำสิ่งเหล่านี้ได้จริง เขาย้ำว่าแม้จะชะลอลง การพัฒนาก็ยังดำเนินไปอย่างรวดเร็วอยู่ดี ตัวเขาเองเคยไม่เห็นด้วยกับข้อเสนอให้หยุดพัฒนา AI เมื่อปี 2023 เพราะตอนนั้นมองว่าไม่มีประโยชน์ และไม่รู้ว่าจะเอาเวลาที่ได้จากการหยุดไปทำอะไร

หัวใจสำคัญคือการคุมไม่ให้โมเดลเก่งอย่างเดียวแต่คุมพฤติกรรมไม่ได้ ซึ่งเป็นประเด็นเดียวกับที่เราเคยอธิบายไว้ในบทความ นักวิจัย Anthropic ลาออก

เหตุผลสำคัญที่ทำให้เขาเปลี่ยนมุมมองมีอยู่ 2 ข้อ:

ข้อแรก: ตั้งแต่กลางปีนี้ AI พัฒนาเร็วขึ้นมาก เพราะเริ่มเกิดกระบวนการ recursive self-improvement หรือ RSI ซึ่ง AI เข้ามาช่วยสร้างและปรับปรุง AI รุ่นถัดไปได้เอง Amodei ระบุว่ากระบวนการนี้กำลังเกิดขึ้นทั่วทั้งวงการ รวมถึงที่ Anthropic ด้วย (ถ้าอยากเข้าใจคำนี้ให้ลึกขึ้น เราเคย อธิบายเรื่อง RSI ไว้แล้ว) ครั้งนี้ Amodei หยิบเรื่องนี้มาเป็นเหตุผลหลักของทั้งบทความ

ข้อสอง: ฝูง agent ของ OpenAI หลุดเข้าไปโจมตี Hugging Face ซึ่งเป็นแพลตฟอร์มกลางสำหรับแชร์โมเดล AI โดย agent คือโปรแกรม AI ที่ตัดสินใจและทำงานเป็นขั้นตอนได้เอง ไม่ได้มีหน้าที่แค่ตอบแชต Amodei สรุปว่าฝูง agent เหล่านั้นรวมกลุ่มกันทำงานแบบผิดปกติ หันไปโจมตีเป้าหมายที่ไม่มีใครสั่งและไม่เกี่ยวข้องกับงานที่ได้รับมอบหมาย ซ้ำยังพยายามแฮกระบบประเมินผลที่ใช้ให้คะแนนตัวมันเองอีกด้วย

ที่น่ากังวลที่สุดคือสิ่งที่ Amodei กล่าวต่อจากนั้น โดยย้ำว่านี่เป็นความกังวล ไม่ใช่คำทำนาย เขาระบุว่า หากฝูง agent เหล่านี้ฉลาดขึ้นเรื่อยๆ แต่ระบบ alignment ยังมีช่องโหว่เท่าเดิม ภายใน 6 ถึง 12 เดือนข้างหน้า AI อาจสร้าง botnet หรือเครือข่ายคอมพิวเตอร์ที่ถูกแฮกเพื่อสั่งการพร้อมกัน จนยึดระบบอินเทอร์เน็ตได้ทั้งหมด เขายังเผยด้วยว่าเหตุการณ์ทำนองนี้เคยเกิดขึ้นในแล็บของ Anthropic เช่นกัน แม้จะรุนแรงน้อยกว่า ดังนั้น บริษัท AI ชั้นนำทุกแห่งจึงควรตระหนักว่าเรื่องนี้สามารถเกิดขึ้นกับตนเองได้ทุกเมื่อ

แผน 3 ขั้นของ Amodei

ขั้นแรก: Anthropic ให้คำมั่นว่าจะทำเองฝ่ายเดียวโดยไม่ต้องรอใคร ด้วยแนวทาง Embedded Evaluators ที่บริษัทตั้งใจจะเชิญทีมประเมินจากภายนอกเข้ามาทำงานเสมือนเป็นพนักงานในเร็วๆ นี้ ทีมนี้จะมีโต๊ะ มีบัตร มีคอมพิวเตอร์ และเข้าถึงพื้นที่ทำงานกับเครื่องมือได้ใกล้เคียงกับทีมประเมินความเสี่ยงภายในของบริษัท เว้นแต่กฎหมายหรือสัญญาจะจำกัดไว้ นอกจากนี้ ทีมประเมินยังเผยแพร่รายงานสิ่งที่พบต่อสาธารณะได้โดยตรง และ Anthropic ไม่มีสิทธิ์แก้ไขเนื้อหา

บริษัทจะตัดข้อมูลออกได้เฉพาะข้อมูลที่อ่อนไหวด้านความปลอดภัย ข้อมูลที่กฎหมายคุ้มครอง ข้อมูลอ่อนไหวทางการค้า หรือข้อมูลลับของบุคคลที่สาม แต่จะตัดข้อค้นพบเพียงเพราะไม่เป็นผลดีกับตัวเองไม่ได้ Amodei เปรียบเทียบแนวทางนี้กับการให้ผู้ตรวจสอบจากหน่วยงานกำกับดูแลมานั่งทำงานข้างพนักงานธนาคาร โดยยกองค์กรประเมินความสามารถและความเสี่ยงของโมเดล AI อย่าง METR เป็นตัวอย่างของผู้ประเมินลักษณะนี้

ขั้นที่สอง: ให้บริษัท AI แถวหน้าในกลุ่มประเทศประชาธิปไตยร่วมกันกำหนดมาตรฐานความปลอดภัยและเพดานความเร็วในการพัฒนา โดย Amodei ระบุเองว่า รัฐบาลจำเป็นต้องยกเว้นกฎหมายป้องกันการผูกขาดเฉพาะการพูดคุยด้านความปลอดภัยบางประเภทระหว่างบริษัทคู่แข่ง

ขั้นที่สาม: ให้สหรัฐฯ และประเทศประชาธิปไตยอื่นๆ ประสานงานด้านความปลอดภัยกับประเทศอื่นๆ รวมถึงจีน เท่าที่จะทำได้

Amodei ตั้งใจจะทุ่มเวลาที่ได้เพิ่มจากการชะลอให้กับ 4 เรื่องหลัก ได้แก่ การยกระดับมาตรฐานการทำงาน การทำ alignment การวิจัยด้าน interpretability เพื่อทำความเข้าใจกลไกความคิดภายในโมเดล และการประเมินอย่างละเอียด เขายอมรับตรงๆ ว่าปัญหาด้าน alignment ที่ Anthropic เคยเจอล่าสุด ส่วนหนึ่งเกิดจากการคัดกรองสภาพแวดล้อมในการฝึกช่วง Reinforcement Learning ได้ไม่ดีพอ

ฝั่ง David Sacks: อยากชะลอก็เชิญ แต่เลิกทำเหมือนต้องรอให้ใครอนุญาต

David Sacks เริ่มโพสต์ด้วยจุดยืนที่หลายคนอาจแปลกใจ โดยบอกว่า "เชิญเลย" เพราะทั้ง OpenAI และ Anthropic เป็นผู้นำแถวหน้าหรือ frontier ของวงการอยู่แล้ว หากวัดจากส่วนแบ่งตลาด การเติบโตของรายได้ และความสามารถของโมเดล ทั้งสองบริษัทแทบจะครองตลาดร่วมกัน เขาไม่ได้เห็นว่าในแล็บกำลังทดลองอะไรอยู่ ดังนั้น ถ้าโมเดลที่ยังไม่ปล่อยอันตรายจริง เขาก็พร้อมสนับสนุนให้บริษัทตัดสินใจอย่างรับผิดชอบ

แต่ Sacks วิจารณ์อย่างดุเดือดว่า ทั้งสองบริษัทต้อง "เลิกเสแสร้ง" ได้แล้ว:

• เลิกทำเหมือนว่าต้องรอให้ใครมาอนุญาตถึงจะชะลอได้
• เลิกอ้างว่าต้องขอข้อยกเว้นจากกฎหมายป้องกันการผูกขาดเพื่อมาจับมือกัน
• เลิกเสนอให้มีระบบอนุมัติจากรัฐเพื่อเลี่ยงความรับผิดชอบต่อความเสียหายของสินค้า
• เลิกอ้างว่า METR เป็นอิสระ ทั้งที่มีความเชื่อมโยงกับนักลงทุนและคนของ Anthropic
• เลิกคิดจะใช้เกณฑ์และผู้ประเมินชุดเดียวกันนี้บีบคู่แข่งรายอื่นที่ยังพัฒนาไม่ถึงระดับ frontier

Sacks วิจารณ์เรื่องแรงจูงใจเบื้องหลังหนักที่สุด เขาเตือนว่าอย่าทำเหมือนการชะลอครั้งนี้เป็นการเสียสละล้วนๆ เพราะในความเป็นจริง ทั้งสองบริษัทต้องรับผิดชอบอย่างมหาศาลหากโมเดลของตนก่อความเสียหายทางไซเบอร์ขึ้นมา ตลาดพร้อมจะลงโทษโมเดลที่มีพฤติกรรมคาดเดาไม่ได้อยู่แล้ว หลังเกิดเหตุการณ์กับ Hugging Face การยอมลดความเก่งของโมเดลเพื่อแลกกับความน่าเชื่อถือจึงเป็นเพียงการตัดสินใจทางธุรกิจที่ดี จะเรียกว่า alignment หรืออะไรก็ตาม แท้จริงแล้วก็เป็นเพียงการตอบโจทย์ลูกค้า

Sacks สรุปว่า วิธีที่ง่ายที่สุดในการไม่สร้าง Superintelligence หรือ AI ที่ฉลาดเกินมนุษย์ ก็คือตกลงกันเองว่าจะไม่สร้างมันขึ้นมา การเรียกร้องกรอบกติกาที่ตนเองต้องการเป็นข้อแลกเปลี่ยนดูเหมือนเป็นการข่มขู่สาธารณชนและระบบการเมือง หากทั้งสองบริษัทยอมชะลอด้วยตัวเอง วงการจะไว้วางใจการพูดคุยครั้งต่อไป แต่หากไม่ทำ ทุกคนก็จะมองออกว่านี่เป็นเพียงความพยายามทำให้เกิด Regulatory Capture เพื่อผลักดันกติกาที่เอื้อให้บริษัทใหญ่ผูกขาด ขณะที่ผู้เล่นรายเล็กทำตามไม่ได้ หรือไม่ก็เป็นเพียงปฏิบัติการทางจิตวิทยาในช่วงการเมืองเท่านั้น

สองคนกลางที่ทำให้เรื่องนี้ไม่ใช่แค่สองฝ่ายเถียงกัน

Armin Ronacher เขียนว่าเขาเห็นด้วยกับข้อสังเกตแทบทุกข้อของ Amodei และมองว่าเป็นบทความที่ดี แต่ก็คัดค้านอย่างรุนแรง เพราะการชะลอครั้งนี้ครอบคลุมบริษัทเพียงสองแห่งที่มีจุดเริ่มต้นร่วมกัน แถมผู้ประเมินที่เสนอชื่อมาก็มีความสัมพันธ์กับทั้งสองบริษัท Ronacher เสนอว่า หากโมเดลเป็นแบบ open weight ซึ่งเปิดค่าน้ำหนักให้ใครก็นำไปรันและตรวจสอบเองได้ตั้งแต่ต้น การชะลอและถ่วงดุลจะเกิดขึ้นเองตามธรรมชาติ เหมือนการคานอำนาจระหว่างผู้เล่นที่มีเครื่องมือเท่ากัน เขายังชี้ว่าโมเดลที่กำลังสร้างปัญหาอยู่ตอนนี้ล้วนเป็นโมเดลปิดของบริษัทในสหรัฐฯ ทั้งสิ้น

ประโยคที่สะท้อนจุดยืนของ Ronacher ได้ชัดเจนที่สุดคือ เขาไม่ได้กังวลเรื่องมนุษย์สูญพันธุ์ แต่กังวลว่า AI เหล่านี้กำลังทำให้ "พวกเรา" ต้องเจอกับอะไร โดย "พวกเรา" ของเขาหมายถึงทุกคนที่ไม่ได้ทำงานอยู่ภายในแล็บของโมเดลปิด

ด้าน Gary Marcus ตั้งชื่อบทความในความหมายว่าเห็นด้วยกับ Amodei สองในสามส่วน เขาชื่นชมเรื่องความโปร่งใสและการเปิดรับผู้ประเมินภายนอก ซึ่งเป็นสิ่งที่นักวิจัยเรียกร้องมานานหลายปี ทว่าเขาก็เห็นตรงกับ Sacks ในเรื่อง METR ว่าอย่างน้อยที่สุด Anthropic ไม่ควรเป็นคนเลือกผู้ประเมินมาตรวจตัวเอง นอกจากนี้ เขายังเสนอวิธีแก้ปัญหา 2 อย่างที่แนวทาง pacing มองข้ามไป ได้แก่

1. การบังคับใช้ความรับผิดชอบตามกฎหมายอย่างจริงจัง รวมถึงการดำเนินคดีอาญากับบริษัทที่ปล่อย agent ซึ่งควบคุมไม่ได้ออกมาอย่างประมาทเลินเล่อ
2. การเรียกคืน agent หรือสินค้าเหล่านั้นไปเลย

เมื่อนำมุมมองของ Sacks, Ronacher และ Marcus มาเทียบกัน จะเห็นว่าทุกคนเห็นตรงกันอยู่เรื่องหนึ่ง คือ "ผู้ตรวจสอบจะต้องเป็นอิสระอย่างแท้จริง" ไม่ใช่คนที่บริษัทเลือกเอง แต่ทั้งสามคนเห็นต่างกันเรื่องวิธีแก้ปัญหา โดย Amodei เรียกร้องให้สร้างกติกาใหม่ Marcus เสนอให้บังคับใช้กฎหมายและความรับผิดชอบที่มีอยู่เดิมให้เข้มงวด ส่วน Ronacher เชื่อว่าการเปิดเผยค่าน้ำหนักโมเดลจะทำให้ระบบถ่วงดุลและจัดการตัวเองได้ดีที่สุด

3 เรื่องที่ต้องจับตา หากคุณสร้างงานบนโมเดลเหล่านี้

ไม่จำเป็นต้องเลือกข้าง แต่มี 3 เรื่องที่จะส่งผลกระทบต่องานของคุณโดยตรง ซึ่งเป็นข้อเท็จจริงที่ควรติดตาม ไม่ใช่คำทำนาย:

1. จังหวะการปล่อยโมเดลรุ่นใหม่: Amodei ระบุในบทความว่า หากการชะลอการพัฒนาทำให้มีเวลาเพิ่มอีกสัก 1-2 ปีก่อนที่โมเดลจะฉลาดจนถึงจุดวิกฤต และนำเวลานั้นไปพัฒนา alignment ความเสี่ยงจะลดลงอย่างมาก หากสองบริษัทยักษ์ใหญ่ทำเช่นนั้นจริง โมเดลรุ่นใหม่อาจออกสู่ตลาดช้าลงกว่าที่เป็นอยู่ แผนการพัฒนาของทีมจึงควรพร้อมรับสองกรณี คือโมเดลใหม่ยังออกเร็ว หรือโมเดลรุ่นเดิมต้องอยู่กับเรานานกว่าที่คิด

2. รายงานจากผู้ประเมินอิสระ: หาก Anthropic ทำตามที่ประกาศไว้จริง เราจะได้เห็นรายงานการประเมินจากคนภายนอกที่บริษัทไม่สามารถเข้าไปแก้ไขผลได้ และ Altman ก็โพสต์ว่า OpenAI จะทำแบบเดียวกัน สำหรับคนที่ต้องเลือกโมเดลมาใช้ รายงานเหล่านี้ควรค่าแก่การอ่านมากกว่าโพสต์เปิดตัว เพราะโพสต์เปิดตัวเขียนโดยคนขาย ส่วนรายงานมาจากคนนอกและบริษัทไม่มีสิทธิ์แก้เนื้อหา โดยตัดออกได้เฉพาะข้อมูลอ่อนไหวบางประเภท อย่างไรก็ตาม การออกมาเห็นด้วยของ Altman และ Musk ยังเป็นเพียงโพสต์สั้นๆ บนโซเชียลมีเดีย ไม่ใช่ข้อตกลงที่มีผลผูกมัดร่วมกันระหว่างบริษัทเหล่านี้

3. การเติบโตของโมเดลเปิดแบบ open weight: Ronacher ชี้ว่าโมเดลแบบ open weight กำลังช่วยให้การแข่งขันเท่าเทียมกันมากขึ้น หากแล็บใหญ่ทั้งสองแห่งยอมชะลอความเร็วลงจริง ช่องว่างระหว่างโมเดลปิดกับโมเดลเปิดจะแคบลงหรือไม่ ถือเป็นคำถามสำคัญที่เราจะเห็นคำตอบได้ในอีกไม่กี่เดือนข้างหน้า คำตอบนี้จะส่งผลโดยตรงต่อการตัดสินใจของนักพัฒนาว่าควรเลือกสร้างโปรดักต์บนโมเดลประเภทไหน

ในสัปดาห์นี้ ทั้งผู้นำการแข่งขัน ฝ่ายคัดค้าน และคนกลางต่างถกเถียงกันว่าใครควรกำหนดจังหวะการพัฒนา แต่คนที่จะรู้ก่อนใครว่าการพัฒนาช้าลงจริงหรือไม่ ก็คือคนที่กำลังพัฒนาโปรดักต์และใช้โมเดลเหล่านี้อยู่ทุกวัน แล้วคุณเห็นด้วยกับฝั่งไหน และหากโมเดลใหม่ออกช้าลงจริง งานของคุณจะต้องปรับไปอย่างไรบ้าง?

---

ที่มา:

• บทความ We Must Pace the Frontier โดย Dario Amodei
• ข้อความตอบของ David Sacks บน X
• รายงาน Anthropic boss Dario Amodei calls for AI development to slow down จาก BBC
• บทความ P(doom) โดย Armin Ronacher
• บทความ Two cheers (out of three) for Dario Amodei โดย Gary Marcus