อาการ AI หลอน หรือที่ในวงการเรียกว่า Hallucination เมื่อเกิดขึ้นจริงเป็นอย่างไร ลองดู ลิสต์แนะนำหนังสือน่าอ่านช่วงฤดูร้อนปี 2025 ที่หนังสือพิมพ์ Chicago Sun-Times ตีพิมพ์ลงหน้ากระดาษ ในลิสต์นี้มีหนังสือที่มีอยู่จริงเพียงแค่ 5 จากทั้งหมด 15 เล่ม

ส่วนอีก 10 เล่มที่เหลือคือชื่อเรื่องที่ AI กุขึ้นมาเองทั้งหมด แต่ผูกเข้ากับชื่อนักเขียนตัวจริงที่คนอ่านคุ้นเคย เมื่อวางเรียงรวมกันบนหน้ากระดาษ รายชื่อปลอมชุดนี้จึงดูแนบเนียนและน่าเชื่อถือจนแทบไม่มีจุดผิดสังเกต

ในเดือนกันยายน 2025 มีงานวิจัยชื่อ Why Language Models Hallucinate เผยแพร่บน arXiv คลังงานวิจัยสาธารณะ และคำอธิบายในนั้นก็อยู่คนละทางกับสิ่งที่เราคุ้นเคยกัน

งานวิจัยชี้ว่าอาการหลอนไม่ได้หายไปแม้ข้อมูลที่ใช้ฝึก AI จะสะอาด เพราะวิธีฝึกและระบบวัดผลที่วงการใช้กันอยู่ยังให้แต้มกับการเดามากกว่าการยอมรับว่าไม่รู้

เปรียบให้เห็นภาพง่ายๆ AI ก็เหมือนนักเรียนที่เจอข้อสอบยากแล้วเลือกมั่วคำตอบ เพราะถ้าเว้นว่างไว้ก็ได้ศูนย์คะแนนแน่นอน แต่ถ้าเดาก็ยังมีโอกาสได้แต้ม และเมื่อกติกาเป็นแบบนี้ คำถามบางประเภทจึงกลายเป็นกับดักที่เราคาดเดาความผิดพลาดได้ตั้งแต่ก่อนกดส่ง

Hallucination ไม่ใช่ความผิดพลาดธรรมดา

ความผิดพลาดทั่วไปของ AI มักจะสืบหาต้นตอได้ง่าย เช่น ข้อมูลเก่าเกินไป ตีโจทย์ผิด หรือใช้ตรรกะผิด พอไล่ย้อนดูก็จะรู้ว่าผิดตรงไหนและแก้ได้ตรงจุด

แต่สำหรับ Hallucination นั้นแทบไม่มีร่องรอยให้ตาม เพราะคำตอบสร้างขึ้นใหม่จาก "รูปแบบของสิ่งที่มีอยู่จริง" ทั้งชื่อคนที่มีตัวตนจริง สำนวนรายงานที่เป็นทางการ ไปจนถึงเลขหน้าอ้างอิงที่ดูสมจริง ทุกชิ้นส่วนดูคุ้นตาและถูกต้องทั้งหมด ยกเว้นเนื้อหาคำตอบที่ไม่เคยมีอยู่จริงบนโลก นี่คือจุดที่พลาดง่ายที่สุด เพราะยิ่งคำตอบเรียบเรียงมาดูดีเท่าไหร่ เราก็ยิ่งไม่คิดจะตรวจสอบ

ในชีวิตประจำวัน เรามักพบอาการหลอน 3 รูปแบบหลักๆ ซึ่งมีจุดสังเกตต่างกัน:

• กุข้อเท็จจริงขึ้นมาใหม่: แต่งชื่อ ตัวเลข หรือรายการอ้างอิงที่ไม่เคยมีอยู่จริง จับพิรุธได้ตอนเอาไปเทียบกับแหล่งข้อมูลจริงข้างนอก
• ไม่สนใจบริบทที่กำหนด: แม้เราจะแนบเอกสารให้อ่านโดยตรง แต่มันกลับดึงความรู้ทั่วไปมาตอบแทน หรือจับแพะชนแกะเอาเรื่องที่ไม่เกี่ยวกันมารวมกัน วิธีตรวจสอบคือเอาคำตอบมาเทียบกับเอกสารที่เราแนบไป
• ตอบขัดแย้งกันเอง: ตอนต้นบทสนทนาตอบอย่างหนึ่ง แต่พอคุยไปเรื่อยๆ กลับให้คำตอบอีกแบบที่สวนทางกับคำตอบเดิม วิธีตรวจจับคือลองเลื่อนย้อนกลับไปอ่านข้อความก่อนหน้า

สาเหตุชั้นที่ 1: ต่อให้ข้อมูลที่ใช้ฝึกถูกต้องทั้งหมด AI ก็ยังหลอนได้

งานวิจัยแยกต้นตอของปัญหานี้ออกเป็น 2 ชั้น โดยชั้นแรกเกิดขึ้นตั้งแต่ช่วง Pre-training ซึ่งเป็นการฝึกเบื้องต้นที่โมเดลต้องอ่านข้อมูลมหาศาลเพื่อเรียนรู้และจับรูปแบบของภาษา

โมเดลสร้างคำตอบด้วย "การทำนายคำถัดไป" โดยอิงความน่าจะเป็นจากรูปแบบที่เคยเห็น ไม่มีขั้นตอนเปิดตำราเช็กว่าสิ่งที่กำลังเขียนเป็นเรื่องจริงหรือไม่ โมเดลตัดสินได้เพียงว่าคำไหนเรียงต่อกันแล้วเข้ากับรูปแบบประโยค ไม่ได้ตัดสินว่าข้อความนั้นเป็นความจริงหรือไม่

จุดสำคัญที่งานวิจัยชี้ให้เห็นคือ ต่อให้เราลบข้อมูลเท็จออกจากชุดข้อมูลฝึกสอนจนหมดเกลี้ยง โมเดลก็ยังคงสร้างข้อมูลเท็จขึ้นมาได้อยู่ดี เพราะถ้าข้อมูลที่มีอยู่ไม่เพียงพอที่จะแยกแยะความถูกผิดในเรื่องนั้นๆ กลไกความน่าจะเป็นทางคณิตศาสตร์ก็จะผลักให้โมเดลเลือกคำที่ดูเข้าเค้าที่สุดออกมา ความสะอาดของข้อมูลจึงไม่สามารถปิดช่องโหว่นี้ได้

เรานำหลักการนี้มาใช้สังเกตได้ทันที: ยิ่งข้อมูลในเรื่องนั้นมีน้อยหรือกำกวมเท่าไหร่ โอกาสที่โมเดลจะแต่งคำตอบขึ้นมาก็ยิ่งสูงขึ้น เช่น วันเกิดของบุคคลทั่วไปที่ไม่ใช่คนดัง เลขหน้าอ้างอิงในหนังสือเฉพาะทาง ชื่อฟังก์ชันของเครื่องมือที่มีผู้ใช้น้อย ราคาแพ็กเกจสินค้าที่เพิ่งปรับปรุงใหม่ หรือเลขคดีความเฉพาะเรื่อง

คำถามกลุ่มนี้จึงเป็นโซนที่ควรระวังไว้ก่อน และจุดที่อันตรายคือคำตอบที่เดามา ก็ออกมาด้วยน้ำเสียงมั่นใจได้ไม่ต่างจากคำตอบที่มีข้อมูลรองรับ

สาเหตุชั้นที่ 2: ระบบการให้คะแนนที่บังคับให้ AI ต้องเดา

หลังจากผ่าน Pre-training โมเดลจะเข้าสู่ช่วง Post-training ซึ่งเป็นการปรับแต่งพฤติกรรมต่อด้วยชุดตัวอย่างคำตอบที่คัดสรรมา ขั้นตอนนี้ควรจะช่วยขัดเกลานิสัยชอบเดาออกไป แต่นิสัยนี้กลับไม่หายไป เพราะกติกาการให้คะแนนของวงการ AI เอง

ทุกวันนี้ วงการ AI วัดความเก่งของโมเดลผ่านชุดข้อสอบมาตรฐานอย่าง Benchmark ที่ใช้จัดอันดับคะแนน ซึ่งงานวิจัยชี้ว่าเกณฑ์การตรวจข้อสอบส่วนใหญ่มีเพียง 2 แบบ คือถูกหรือผิด โดยไม่มีคะแนนสำหรับคำตอบตรงกลาง การตอบว่า "ไม่รู้" จึงได้ 0 คะแนน ซึ่งไม่ต่างอะไรกับการตอบผิด

ลองนึกว่าเราต้องทำข้อสอบชุดนี้ ถ้าเดาก็ยังมีโอกาสได้คะแนน แต่ถ้าไม่เดาและยอมรับว่าไม่รู้ เราได้ศูนย์แน่นอน วิธีทำคะแนนให้ได้สูงสุดจึงเป็นการ "เดาทุกข้อโดยไม่มีข้อยกเว้น"

ผลลัพธ์คือ โมเดลที่ซื่อสัตย์และยอมรับว่าไม่รู้ในจุดที่ไม่รู้จริงๆ กลับได้คะแนนรวมน้อยกว่าโมเดลที่กล้าเดามั่ว อันดับบน Benchmark จึงต่ำกว่า ทั้งที่เมื่อนำมาใช้งานจริง พฤติกรรมแบบแรกตรงไปตรงมาและน่าเชื่อถือกว่ามาก งานวิจัยจึงสรุปว่า ทุกวันนี้เรากำลังปั้น AI ให้เก่งเรื่องทำข้อสอบ มากกว่าปั้นให้เป็นผู้ช่วยที่ให้ข้อมูลได้อย่างน่าเชื่อถือ

ข้อเสนอของงานวิจัยนี้จึงไม่ใช่การไล่แก้ที่ตัวโมเดล แต่เป็นการเรียกร้องให้เปลี่ยน "กติกาการให้คะแนนของข้อสอบมาตรฐานหลัก" โดยปรับให้การตอบว่า "ไม่รู้" ได้คะแนนมากกว่าการเดาผิด แทนที่จะสร้างข้อสอบวัดอาการหลอนแยกออกมาอีกชุดหนึ่ง

เพราะเหตุผลง่ายๆ คือ ตราบใดที่ข้อสอบมาตรฐานที่คนทั้งวงการจับตามองยังให้แต้มกับการเดา ข้อสอบชุดใหม่ก็ไม่มีน้ำหนักพอจะเปลี่ยนพฤติกรรมของผู้พัฒนาโมเดลได้

ความเสียหายจริงจากคำตอบที่ดูน่าเชื่อถือ

Deloitte บริษัทที่ปรึกษา ต้องยอมคืนเงินบางส่วนตามสัญญาว่าจ้างทำรายงานให้แก่รัฐบาลออสเตรเลีย หลังตรวจพบว่าในรายงานมีรายการอ้างอิงและเชิงอรรถที่ไม่มีอยู่จริง รายงานข่าวระบุว่า สัญญาฉบับนี้มีมูลค่าราว 440,000 ดอลลาร์ ซึ่งรายงานฉบับแก้ไขต้องตัดรายการอ้างอิงปลอมออกไปมากกว่า 12 รายการ โดยมีนักวิชาการจากมหาวิทยาลัยซิดนีย์เป็นผู้ตรวจพบความผิดปกติ

อีกกรณีหนึ่งเกิดขึ้นในวงการแพทย์ โดยมีรายงานว่าโมเดลแปลงเสียงพูดเป็นข้อความของ OpenAI อย่าง Whisper เกิดอาการหลอนโดยเติมคำและประโยคที่ไม่มีอยู่จริงในไฟล์เสียงลงไปในบทถอดความ มีตั้งแต่รายละเอียดเล็กๆ น้อยๆ ไปจนถึงชื่อวิธีรักษาที่ไม่มีอยู่จริง แม้ทาง OpenAI จะเตือนว่าไม่ควรนำไปใช้กับงานที่มีความเสี่ยงสูง แต่กลับพบว่ามีบุคลากรทางการแพทย์กว่า 30,000 คนใช้เครื่องมือถอดเสียงที่ทำงานด้วยโมเดลนี้

กรณีนี้สะท้อนความจริงที่ตรงไปตรงมาว่า คำเตือนจากผู้พัฒนาเองไม่ได้ช่วยหยุดการใช้งานในจุดที่มีความเสี่ยงสูงที่สุด

เมื่อเกิดความเสียหายขึ้น ใครต้องเป็นผู้รับผิดชอบ? คำถามนี้มีคำตอบแล้วจากคดีของ Air Canada สายการบินที่แพ้คดีหลังแชตบอตบนเว็บไซต์ให้ข้อมูลเงื่อนไขตั๋วโดยสารผิดแก่ผู้โดยสาร แม้สายการบินจะต่อสู้ว่าแชตบอตเปรียบเสมือนนิติบุคคลแยกต่างหาก แต่คณะวินิจฉัยข้อพิพาทก็ปฏิเสธข้อต่อสู้นั้น แล้วชี้ว่าสายการบินต้องรับผิดชอบเนื้อหาบนเว็บไซต์ของตัวเอง

บทเรียนสำคัญจากทั้ง 3 กรณีชี้ให้เห็นว่า สิ่งที่พังไม่ใช่ตัวโมเดลเพียงอย่างเดียว แต่เป็นขั้นตอนการตรวจสอบที่หายไป และขั้นตอนที่ขาดไม่ได้ก็เป็นเรื่องพื้นฐานอย่างการคลิกเข้าไปดูแหล่งอ้างอิงด้วยตาตัวเอง เหมือนที่เราเคยเล่าไว้ในบทความ เครื่องมือ AI 15 ตัวที่ใช้ได้จริง

วิธีประยุกต์ใช้: กำหนดเกณฑ์การให้คะแนนใหม่ใน Prompt ของเราเอง

แม้เราจะเปลี่ยนเกณฑ์ข้อสอบ Benchmark ของทั้งวงการ AI ไม่ได้ แต่ในการใช้งานจริง เรากำหนดกติกาให้ AI ทำตามได้ทันที นี่คือแนวคิดจากงานวิจัยที่นำไปปรับใช้ได้ตั้งแต่วันนี้ โดยลองเพิ่มข้อความเหล่านี้ไว้ที่ต้น Prompt ที่เราป้อนให้ AI:

ตอบเฉพาะข้อที่มั่นใจเกิน 75%
ถ้าไม่ถึง ให้ตอบว่า "ไม่รู้" แทนการเดา
เกณฑ์คะแนน: ตอบถูก +1, ตอบว่าไม่รู้ 0, ตอบผิด -3
ทุกครั้งที่ตอบเป็นชื่อ ตัวเลข หรือแหล่งอ้างอิง ให้บอกด้วยว่าเอามาจากไหน

คำสั่งเหล่านี้จะเพิ่ม "ทางเลือกตรงกลาง" ที่ข้อสอบมาตรฐานส่วนใหญ่ไม่มี ทำให้การตอบว่าไม่รู้กลายเป็นตัวเลือกที่ยอมรับได้ในการทำงานตรงหน้า แทนที่จะเป็นตัวเลือกที่เสียคะแนนเสมอ

แต่แน่นอนว่าวิธีนี้ย่อมมีข้อแลกเปลี่ยนที่คุณควรรู้ไว้: คุณจะได้คำตอบน้อยลง เจอคำว่าไม่รู้บ่อยขึ้น และบางครั้ง AI อาจเลือกเงียบในเรื่องที่พอจะตอบได้อยู่แล้ว จึงต้องเลือกใช้ให้เหมาะกับลักษณะของงาน:

• งานที่ผิดพลาดแล้วเกิดความเสียหายมาก เช่น ข้อมูลตัวเลข เอกสารสัญญา หรือข้อมูลคนไข้ การยอมรับว่าคำตอบจะน้อยลงแต่แม่นยำย่อมคุ้มค่ากว่ามาก
• งานระดมไอเดียหรืองานสร้างสรรค์ ที่เราต้องนำมาคัดกรองต่อเองอยู่แล้ว การตั้งเกณฑ์เข้มงวดเกินไปอาจทำให้พลาดไอเดียดีๆ โดยไม่จำเป็น

RAG ช่วยได้ แต่ยังป้องกันความผิดพลาดไม่ได้ทั้งหมด

เครื่องมือที่นิยมใช้ลดอาการหลอนคือ RAG หรือระบบดึงข้อมูลจากคลังเอกสารจริงมาให้โมเดลอ่านก่อนตอบ แนวคิดหลักคือทำให้คำตอบมีเอกสารจริงให้อ้างอิง และมีที่มาให้เราตรวจย้อนกลับได้ ส่วนการเปิดให้ AI ค้นเว็บก็ใช้หลักการเดียวกัน

อย่างไรก็ตาม ทั้งหมดนี้ยังไม่ใช่ยาวิเศษที่จะรักษาอาการหลอนให้หายขาด โดยมีเหตุผลหลัก 3 ข้อ:

1. พอค้นไม่เจอ แรงจูงใจในการเดาก็ยังอยู่ครบ: ถ้าค้นในเอกสารแล้วไม่พบข้อมูล กติกาที่ให้แต้มกับการตอบอะไรสักอย่างก็ยังอยู่เหมือนเดิม
2. อาการละเลยบริบท: แม้จะมีเอกสารวางอยู่ตรงหน้า โมเดลก็ยังมีโอกาสหลุดไปใช้ความรู้ทั่วไปที่ไม่เกี่ยวข้องมาตอบแทน
3. การแนบเอกสารไม่ได้เปลี่ยนกลไกการทำนายคำ: การป้อนเอกสารไม่ได้เปลี่ยนวิธีที่โมเดลใช้เลือกคำถัดไป งานที่ต้องอาศัยการนับ การคำนวณ หรือการสรุปตัวเลขจึงยังมีโอกาสผิดพลาดได้เหมือนเดิม

วิธีใช้ RAG ให้ได้ผลจริง คือการเพิ่มเงื่อนไขกำชับอีกชั้นหนึ่ง เช่น สั่งให้ตอบจากเอกสารที่ให้ไปเท่านั้น ถ้าไม่มีให้ตอบว่าไม่พบ และต้องระบุย่อหน้าที่ใช้อ้างอิงทุกครั้ง

และสุดท้าย มนุษย์ยังต้องตรวจสอบขั้นสุดท้ายเสมอ โดยไม่จำเป็นต้องตรวจทุกจุด แต่ให้เน้นตรวจ 3 เรื่องที่พบว่าสร้างความเสียหายซ้ำๆ ในทุกกรณีศึกษาข้างต้น:

• ชื่อและแหล่งอ้างอิง
• ตัวเลขที่จะนำไปใช้ต่อ
• ข้อความที่จะกลายเป็นบันทึกทางการโดยไม่มีใครย้อนกลับมาตรวจสอบซ้ำ

การเดาไม่ใช่ข้อบกพร่องในตัว AI แต่เป็นคำตอบที่ทำคะแนนได้ดีที่สุดในข้อสอบที่พวกเราเป็นคนออกเอง

ที่มา: เอกสารทางการของ Why Language Models Hallucinate