ความจำมีจำกัด

คุยกับ AI สักพัก ส่งเอกสารยาวๆ ให้อ่าน หรือคุยกันมานาน แล้วถาม "เมื่อกี้ผมบอก อะไรนะ" AI ตอบไม่ได้ บางทีมั่วชื่อขึ้นมา หลายคนคิดว่า AI โง่ลง จริงๆ ไม่ใช่ครับ บทนี้มาดูกันว่าเกิดอะไรขึ้น

AI มีกระดาษโน้ตขนาดจำกัด

ลองนึกแบบนี้ครับ AI ที่เราคุยด้วยมีกระดาษโน้ต 1 หน้า ทุกข้อความที่เราพิมพ์ และ ทุกข้อความที่ AI ตอบกลับมา ถูกจดในกระดาษนี้ พอจะตอบคำถามใหม่ AI ก็เปิดกระดาษ อ่าน แล้วทายคำต่อไป

ปัญหาคือ กระดาษนี้มีขนาดจำกัด เต็มแล้วเต็มเลย ของเก่าจะถูกลบทับ

พื้นที่นี้ฝรั่งเรียกว่า context window หรือพื้นที่ความจำของการคุย ครั้งนี้

เห็นภาพด้วยตัวอย่าง

ลองนึกภาพการคุยที่ยาวขึ้นเรื่อยๆ

• ข้อความ 1 (เรา): "ผมชื่อสมศักดิ์"
• ข้อความ 2 (เรา): "ช่วยแนะนำหนังดีๆ"
• ข้อความ 3 (AI): แนะนำหนัง 5 เรื่อง
• ... คุยกันต่ออีก 20-30 ข้อความ ...
• ข้อความ 50 (เรา): "ผมชื่ออะไรนะ"
• ข้อความ 51 (AI): "ขออภัย ผมไม่ทราบครับ"

ที่ AI ตอบไม่ได้ไม่ใช่เพราะ AI โง่ลง แต่ข้อความแรกที่บอกชื่อ "ผมชื่อสมศักดิ์" หลุดออกจากกระดาษโน้ตไปแล้ว เพราะกระดาษเต็มจาก 49 ข้อความที่คุยมา

บางที AI เดาชื่อมั่วขึ้นมาด้วย เพราะคำถามดู pattern คล้ายเดิม "ผมชื่ออะไรนะ" แล้วก็ทายชื่อที่ฟังดูสมเหตุสมผล แต่เป็นการมั่ว

3 อาการที่เจอบ่อยจากเรื่องนี้

1. คุยยาวแล้ว AI ลืมเรื่องเก่า คุยมา 30 ข้อความ ถามอ้างอิง เรื่องที่บอกตอนต้น AI จำไม่ได้
2. ใส่ไฟล์ยาวๆ ให้อ่าน AI สรุปข้ามจุดบางจุด เพราะเอกสาร บางส่วนหลุดจากความจำ
3. คุยข้ามวัน AI ไม่จำเรื่องเมื่อวาน เพราะแต่ละแชทเป็นกระดาษ โน้ตคนละแผ่น คุยใหม่ก็เริ่มจากกระดาษเปล่า

วิธีรับมือ

• เริ่มแชทใหม่บ่อยๆ งานใหม่เริ่มแชทใหม่ ของเก่าไม่ช่วยและกินที่
• สรุปจุดสำคัญใหม่ ตอนคุยยาวๆ พิมพ์ "สรุปเรื่องที่ผ่านมาคือ ก ข ค" ก่อนสั่งงานใหม่ ทำให้ของสำคัญอยู่ในกระดาษล่าสุด
• แบ่งเอกสารยาว แทนที่จะส่งทีเดียวร้อยหน้า แบ่งเป็นบทๆ ส่งทีละบทพร้อมคำถามที่ต้องการ

สรุปบทนี้

• AI มีพื้นที่ความจำจำกัด เรียกว่า context window เปรียบเหมือนกระดาษโน้ต 1 หน้า
• ข้อความเก่าๆ หลุดออกเมื่อพื้นที่เต็ม AI ก็จำไม่ได้
• AI ไม่จำเรื่องข้ามแชท ไม่จำเรื่องข้ามวัน แต่ละแชทเริ่มจากกระดาษเปล่า
• วิธีรับมือ เริ่มแชทใหม่บ่อยๆ สรุปจุดสำคัญใหม่ตอนคุยยาว แบ่งเอกสารยาวๆ

บทต่อไป เรื่องที่คนโดน AI หลอกบ่อยที่สุด AI พูดมั่นใจมาก แต่ผิด ทำไมถึงเป็น แบบนั้น