Anthropic ฟ้อง Pentagon: เมื่อบริษัท AI ปฏิเสธให้รัฐบาลใช้ AI สอดแนมประชาชน

เมื่อสัปดาห์ที่แล้ว Anthropic บริษัทผู้สร้าง Claude ฟ้องรัฐบาลสหรัฐฯ

ไม่ใช่เรื่องภาษี ไม่ใช่เรื่องลิขสิทธิ์ แต่เป็นเรื่องที่ใหญ่กว่านั้นมาก

Anthropic ปฏิเสธที่จะให้ Pentagon ใช้ AI ของตัวเองเพื่อสอดแนมพลเมืองอเมริกันและยิงอาวุธอัตโนมัติ แล้ว Pentagon ก็ตอบโต้ด้วยการขึ้นบัญชีดำ Anthropic ว่าเป็น "supply chain risk" ซึ่งเป็นป้ายที่เคยแปะให้แค่บริษัทจีนกับรัสเซียเท่านั้น

นี่คือเรื่องราวที่บอกเราได้มากที่สุดว่า AI กำลังเปลี่ยนโลกไปในทิศทางไหน

จุดเริ่มต้น: เส้นที่ Anthropic ไม่ยอมข้าม

เดิมที Anthropic มีสัญญากับ Pentagon อยู่แล้ว Claude ถูกใช้ในงานบางส่วนของกระทรวงกลาโหม แต่เมื่อถึงเวลาต่อสัญญา Anthropic ยื่นเงื่อนไข 2 ข้อที่ไม่ยอมถอย

ข้อแรก ห้ามใช้ Claude สอดแนมพลเมืองอเมริกันแบบ mass surveillance โดยไม่มีหมายศาล

ข้อสอง ห้ามใช้ Claude ควบคุมอาวุธอัตโนมัติที่ยิงโดยไม่มีมนุษย์อนุมัติ

Pentagon ตอบว่าไม่ได้ พวกเขาต้องการสิทธิ์ใช้ Claude เพื่อ "ทุกวัตถุประสงค์ที่ถูกกฎหมาย" จะยอมให้บริษัทเอกชนมากำหนดว่ากองทัพทำอะไรได้หรือไม่ได้ไม่ได้

Dario Amodei CEO ของ Anthropic ตอบสั้นๆ ว่า "We're not going to move on those red lines"

Pentagon ตอบโต้: จากพันธมิตรกลายเป็นศัตรู

สิ่งที่เกิดขึ้นหลังจากนั้นเร็วจนน่าตกใจ

รัฐมนตรีกลาโหม Pete Hegseth ให้เวลา Anthropic ถึงวันศุกร์เพื่อยอมถอดเงื่อนไข Anthropic ไม่ถอย

ประธานาธิบดี Trump สั่งให้หน่วยงานรัฐบาลกลางทุกแห่งหยุดใช้เทคโนโลยีของ Anthropic ทันที

แล้ว Pentagon ก็ขึ้นบัญชี Anthropic ว่าเป็น supply chain risk ซึ่งหมายความว่าไม่ใช่แค่ Pentagon ที่ใช้ Claude ไม่ได้ แต่ contractor ทุกรายที่ทำงานกับกระทรวงกลาโหมก็ต้องหยุดใช้ด้วย Anthropic ประเมินว่าการตัดสินใจนี้อาจทำให้บริษัทสูญเสียรายได้หลายร้อยล้านดอลลาร์

ทั้งหมดนี้เกิดขึ้นภายในไม่กี่วัน

แล้ว OpenAI ได้ดีลนั้นไป

แทบจะทันทีที่ Anthropic ถูกขึ้นบัญชีดำ Pentagon ก็เซ็นสัญญากับ OpenAI แทน

Caitlin Kalinowski หัวหน้าฝ่าย robotics ของ OpenAI ลาออกทันทีเมื่อรู้เรื่อง เธอเขียนว่า "surveillance of Americans without judicial oversight and lethal autonomy without human authorization are lines that deserved more deliberation than they got"

Sam Altman CEO ของ OpenAI ยอมรับภายหลังว่า "ไม่ควรรีบเซ็นดีลนี้" แล้วก็เพิ่มเงื่อนไขเรื่อง mass surveillance เข้าไปทีหลัง

Dario Amodei ไม่ปล่อยผ่าน เขาเรียกการสื่อสารของ OpenAI เรื่องดีลนี้ตรงๆ ว่า "straight up lies"

เรื่องนี้ทำให้เห็นชัดว่า ในโลกของ AI ไม่ใช่ทุกบริษัทจะเลือกเหมือนกัน เมื่อเงินวางอยู่บนโต๊ะ

พนักงาน OpenAI และ Google ลุกขึ้นสู้

สิ่งที่เกิดขึ้นต่อมาคือสิ่งที่ไม่ค่อยเห็นบ่อยในวงการ tech

พนักงานกว่า 30 คนจาก OpenAI และ Google DeepMind รวมถึง Jeff Dean chief scientist ของ Google DeepMind ยื่นหนังสือสนับสนุน Anthropic ต่อศาล โดยยื่นในนามส่วนตัว ไม่ใช่ในนามบริษัท

หนังสือระบุว่าการที่รัฐบาลขึ้นบัญชีดำ Anthropic เป็นการใช้อำนาจที่ไม่เหมาะสมและจะส่งผลร้ายแรงต่ออุตสาหกรรม AI ทั้งหมด

ลองคิดดูว่าพนักงานของ OpenAI ลุกขึ้นมาสนับสนุนคู่แข่งโดยตรงของตัวเอง นั่นบอกอะไรบางอย่างเกี่ยวกับความรุนแรงของสถานการณ์

เมื่อคนที่ทำงานสร้าง AI ทุกวันบอกว่าเส้นนี้ไม่ควรข้าม มันคงไม่ใช่เรื่องเล็ก

ทำไมคนไทยควรสนใจ

อาจดูเหมือนเป็นเรื่องไกลตัว เป็นดราม่าระหว่างบริษัท tech กับรัฐบาลอเมริกา แต่มันส่งผลกระทบถึงเราโดยตรง

ถ้ารัฐบาลสามารถบังคับให้บริษัท AI ถอด safety guardrails ออกได้ ไม่ว่าจะเป็นรัฐบาลไหน มันจะสร้างบรรทัดฐานที่อันตราย AI ที่เราใช้ทุกวัน ทั้ง Claude, ChatGPT, Gemini ล้วนถูกออกแบบมาพร้อม guardrails ที่ป้องกันไม่ให้มันถูกใช้ในทางที่เป็นอันตราย ถ้า guardrails เหล่านั้นถูกถอดออกได้ตามคำสั่ง ความไว้วางใจที่เรามีต่อ AI ก็จะพังทลาย

นอกจากนี้ สิ่งที่เกิดขึ้นกับ Anthropic ยังเป็นบทเรียนสำหรับทุกบริษัท tech ที่ทำงานกับรัฐบาล ไม่ว่าจะเป็นรัฐบาลไทยหรือรัฐบาลไหนก็ตาม คำถามว่า AI ควรถูกใช้ทำอะไรได้และไม่ควรทำอะไร ไม่ใช่คำถามเชิงเทคนิค มันเป็นคำถามเชิงศีลธรรมที่สังคมทั้งหมดต้องร่วมตัดสินใจ

ใครกำหนดเส้นแบ่งของ AI?

Time Magazine เพิ่งเขียนบทความเรียก Anthropic ว่า "The Most Disruptive Company in the World" ไม่ใช่เพราะเทคโนโลยี แต่เพราะพวกเขากล้ายืนหยัดในสิ่งที่เชื่อ แม้จะต้องแลกด้วยรายได้มหาศาล

ในอีกด้านหนึ่ง OpenAI เลือกที่จะรับดีล แล้วค่อยเพิ่มเงื่อนไขทีหลัง Google กำลังส่ง Gemini AI agent 8 ตัวเข้าไปทำงานใน Pentagon เงียบๆ

สามบริษัท AI ชั้นนำของโลก สามทางเลือกที่ต่างกัน

คำถามที่เหลืออยู่คือ ในอนาคตที่ AI มีอำนาจมากขึ้นเรื่อยๆ เราจะไว้ใจให้ใครเป็นคนลากเส้นว่า AI ควรทำอะไรได้และไม่ควรทำอะไร

รัฐบาล? บริษัท tech? หรือเราทุกคน?

เรื่องของ Anthropic กับ Pentagon ไม่ใช่แค่ข่าว tech มันคือคำถามที่จะกำหนดว่า AI จะเป็นเครื่องมือของใคร