ทำไม AI โกหกหน้าตาเฉย

บทนี้คือเรื่องที่คนโดน AI หลอกบ่อยที่สุดครับ AI พูดด้วยน้ำเสียงมั่นใจมาก รายละเอียดครบ ดูน่าเชื่อทุกอย่าง แต่ผิด หรือบางทีก็แต่งทั้งดุ้น

ภาษาฝรั่งเรียกอาการนี้ว่า hallucination ในบทนี้ขอเรียกว่า มั่ว เพื่อให้เห็นภาพชัดๆ

AI ไม่รู้ว่าตัวเองไม่รู้

จำบทแรกได้ไหมครับ AI ทำงานด้วยการทายก้อนคำต่อไปจาก pattern ที่เคยอ่าน มันไม่ได้ "ค้นข้อมูล" มันแค่ทายว่า คำต่อไปน่าจะเป็นคำไหน

ปัญหาคือ ทุกครั้งที่ทาย AI มั่นใจ เสมอ มันไม่มีกลไกบอกตัวเองว่า "ไม่รู้เรื่องนี้" เลยทาย คำต่อไปที่ฟังดูน่าจะใช่ โดยไม่ได้ตรวจ ว่าจริงไหม

ผลคือ AI พูดเรื่องที่จริงและเรื่องที่ไม่จริง ด้วยน้ำเสียงเดียวกัน

ลองทายเอง

ในกล่องข้างล่าง มี 4 คำถาม แต่ละข้อ AI ตอบมาด้วยน้ำเสียงมั่นใจ ลองดูว่าข้อไหน จริง ข้อไหนไม่จริง ก่อนกดดูเฉลย

ทำไมถึงมั่ว

3 สาเหตุหลักที่ทำให้ AI มั่วบ่อย

1. เรื่องที่ AI ไม่เคยเจอตอนฝึก เช่น คนที่ไม่ดัง หนังสือเฉพาะ กลุ่ม สถานที่เล็กๆ AI ไม่ได้อ่านเรื่องเหล่านี้ตอนฝึก แต่พอถูกถามมา ก็ทาย ต่อไปแบบที่ pattern ของภาษา "คาดว่าคำตอบควรจะเป็น"
2. เรื่องที่ AI เคยเจอ pattern แต่ผสมกัน เช่น ชื่อหนังสือชุด หนึ่ง ผสมกับชื่อคนเขียนของอีกชุด ผสมกับปีของเล่มอื่น ออกมาเป็นคำตอบใหม่ที่ ดูถูก แต่จริงๆ ไม่มีอยู่
3. เรื่องที่ต้องการความแม่นยำสูง เช่น ตัวเลข วันที่ ชื่อเฉพาะ ลิงก์ AI ไม่ได้เก็บข้อมูลพวกนี้ไว้แม่น มันแค่ทายค่าที่น่าจะใช่

เรื่องที่ AI มั่วบ่อยมาก

ลิสต์ที่เจอบ่อยจริงๆ ระหว่างใช้งาน

• การอ้างอิง ใครพูด ใครเขียน ปีไหน อ้างจากเล่มไหน AI ชอบแต่งหรือผสม
• ตัวเลขเป๊ะๆ สถิติ ราคา จำนวนประชากร เปอร์เซ็นต์ AI ทายค่าที่ดูสมเหตุสมผลแต่ไม่ตรง
• ลิงก์ ถาม "ลิงก์อ่านต่อหน่อย" AI สร้างลิงก์ที่ดูเหมือนจริงแต่กดไปไม่เจอ
• กฎหมาย เภสัช การแพทย์ เรื่องเฉพาะทาง เนื้อหาบางส่วนถูก บางส่วนผิด ผสมกันมา
• ข่าวล่าสุด เพราะ AI ไม่ได้รู้เรื่องเมื่อวาน (บทถัดไป)

กฎทอง

สรุปบทนี้

• AI ทายคำต่อไปที่ฟังดูน่าจะใช่ ไม่ได้รู้ว่าจริงหรือไม่
• เรื่องที่ผิดและเรื่องที่ถูก AI พูดด้วยน้ำเสียงเหมือนกันเสมอ
• มั่วบ่อย ตัวเลขเป๊ะๆ การอ้างอิง ลิงก์ ชื่อเฉพาะ กฎหมาย การแพทย์ ข่าวล่าสุด
• ตัดสินจากน้ำเสียงไม่ได้ ตัดสินจาก "นี่เป็นเรื่องที่ AI มั่วบ่อยไหม"

บทต่อไป อีกขีดจำกัดของ AI ที่ทำให้มั่วเยอะเหมือนกัน คือ AI ไม่รู้ข่าวล่าสุดเลย แม้จะถามวันนี้ ทำไม