ความจำมีจำกัด

คุยกับ AI สักพัก ส่งเอกสารยาวๆ ให้อ่าน หรือคุยกันมานาน แล้วถาม "เมื่อกี้ผมบอก อะไรนะ" AI ตอบไม่ได้ บางทีมั่วชื่อขึ้นมา หลายคนคิดว่า AI โง่ลง จริงๆ ไม่ใช่ครับ บทนี้มาดูกันว่าเกิดอะไรขึ้น

AI มีกระดาษโน้ตขนาดจำกัด

ลองนึกแบบนี้ครับ AI ที่เราคุยด้วยมีกระดาษโน้ต 1 หน้า ทุกข้อความที่เราพิมพ์ และ ทุกข้อความที่ AI ตอบกลับมา ถูกจดในกระดาษนี้ พอจะตอบคำถามใหม่ AI ก็เปิดกระดาษ อ่าน แล้วทายคำต่อไป

ปัญหาคือ กระดาษนี้มีขนาดจำกัด เต็มแล้วเต็มเลย ของเก่าจะถูกลบทับ

พื้นที่นี้ฝรั่งเรียกว่า context window หรือพื้นที่ความจำของการคุย ครั้งนี้

ลองดูว่าเกิดอะไรขึ้น

ในกล่องข้างล่างมีบทสนทนาเต็ม คนใช้แนะนำตัวว่าชื่อสมศักดิ์ตอนต้น คุยเรื่องหนัง ต่อมาอีกหลายข้อความ แล้วท้ายสุดถาม AI ว่า "ผมชื่ออะไรนะ" ลองเลื่อนปรับขนาด ความจำ ดูว่า AI ตอบยังไง

เห็นไหมครับ ตอนความจำใหญ่พอที่จะเห็นข้อความแรกที่บอกชื่อ AI ตอบได้ถูก พอความ จำเล็กลง ข้อความแรกหลุดออก AI ก็ตอบไม่ได้ บางทีเดาชื่อมั่วขึ้นมาด้วย

3 อาการที่เจอบ่อยจากเรื่องนี้

1. คุยยาวแล้ว AI ลืมเรื่องเก่า คุยมา 30 ข้อความ ถามอ้างอิง เรื่องที่บอกตอนต้น AI จำไม่ได้
2. ใส่ไฟล์ยาวๆ ให้อ่าน AI สรุปข้ามจุดบางจุด เพราะเอกสาร บางส่วนหลุดจากความจำ
3. คุยข้ามวัน AI ไม่จำเรื่องเมื่อวาน เพราะแต่ละแชทเป็นกระดาษ โน้ตคนละแผ่น คุยใหม่ก็เริ่มจากกระดาษเปล่า

วิธีรับมือ

• เริ่มแชทใหม่บ่อยๆ งานใหม่เริ่มแชทใหม่ ของเก่าไม่ช่วยและกินที่
• สรุปจุดสำคัญใหม่ ตอนคุยยาวๆ พิมพ์ "สรุปเรื่องที่ผ่านมาคือ ก ข ค" ก่อนสั่งงานใหม่ ทำให้ของสำคัญอยู่ในกระดาษล่าสุด
• แบ่งเอกสารยาว แทนที่จะส่งทีเดียวร้อยหน้า แบ่งเป็นบทๆ ส่งทีละบทพร้อมคำถามที่ต้องการ

สรุปบทนี้

• AI มีพื้นที่ความจำจำกัด เรียกว่า context window เปรียบเหมือนกระดาษโน้ต 1 หน้า
• ข้อความเก่าๆ หลุดออกเมื่อพื้นที่เต็ม AI ก็จำไม่ได้
• AI ไม่จำเรื่องข้ามแชท ไม่จำเรื่องข้ามวัน แต่ละแชทเริ่มจากกระดาษเปล่า
• วิธีรับมือ เริ่มแชทใหม่บ่อยๆ สรุปจุดสำคัญใหม่ตอนคุยยาว แบ่งเอกสารยาวๆ

บทต่อไป เรื่องที่คนโดน AI หลอกบ่อยที่สุด AI พูดมั่นใจมาก แต่ผิด ทำไมถึงเป็น แบบนั้น