เส้นที่ไม่ควรข้าม

บทที่แล้วว่าด้วยเรื่องที่มันตอบผิด บทนี้ว่าด้วยเรื่องที่ยากกว่านั้น คือเรื่องที่ต่อให้มันตอบถูก ก็ยังไม่ควรเอาคำตอบนั้นไปใช้ตัดสินใจเด็ดขาด

แม่ของคุณนกอ่านเจอในกลุ่มไลน์ว่ายาตัวหนึ่งกินคู่กับอีกตัวไม่ได้ คุณนกเลยถาม ChatGPT ดู แล้วได้คำอธิบายที่ฟังดูสมเหตุสมผลมาก

คำถามคือแล้วยังไงต่อ จะหยุดยาให้แม่เลยไหม

คำตอบคือไม่ควร และเหตุผลไม่ได้อยู่ที่ว่าคำอธิบายนั้นถูกหรือผิด

หลักข้อเดียวของบทนี้

AI เป็นคนช่วยคิด ไม่ใช่คนรับผิดชอบผล

คนที่รับผลของการตัดสินใจคือเรา และคนอื่นที่เกี่ยวข้อง เครื่องมือไม่ได้รับผลอะไรเลย นี่ไม่ใช่เรื่องความเก่งหรือความแม่นยำ แต่เป็นเรื่องที่ว่าใครต้องเป็นคนรับผลเมื่อผลลัพธ์เกิดขึ้นจริง

นโยบายการใช้งานของ OpenAI เองก็เขียนเส้นนี้ไว้ตรงตัวสองจุด จุดแรกระบุว่าห้ามใช้บริการเพื่อให้คำแนะนำเฉพาะรายที่ต้องใช้ใบอนุญาต เช่นคำแนะนำทางกฎหมายหรือทางการแพทย์ โดยไม่มีผู้ประกอบวิชาชีพที่มีใบอนุญาตเข้ามาเกี่ยวข้องอย่างเหมาะสม ส่วนอีกจุดระบุว่าห้ามใช้เพื่อตัดสินใจเรื่องสำคัญโดยอัตโนมัติในเรื่องที่อ่อนไหวโดยไม่มีคนตรวจสอบ พร้อมยกตัวอย่างไว้ทั้งเรื่องการแพทย์ กฎหมาย การเงินและสินเชื่อ ประกัน การจ้างงาน ที่อยู่อาศัย การศึกษา และบริการภาครัฐที่จำเป็น

แปลง่ายๆ คือเรื่องพวกนี้ต้องมีคนจริงอยู่ในกระบวนการเสมอ

สี่เรื่องที่ต้องมีคนจริงอยู่ด้วย

สุขภาพ

• ทำได้ ให้ช่วยอ่านฉลากยาที่ตัวหนังสือเล็ก ให้ช่วยเรียบเรียงอาการที่จะเล่าให้หมอฟังให้ครบ ให้ช่วยอธิบายศัพท์ในใบผลตรวจว่าคำนี้แปลว่าอะไร ให้ช่วยตั้งคำถามที่ควรถามหมอ
• ไม่ควรทำ ถามว่าน่าจะเป็นโรคอะไร ถามว่าควรกินยาตัวไหน ถามว่าหยุดยาได้ไหม ถามว่าอาการแบบนี้ต้องไปหาหมอหรือรอดูก่อน

เรื่องของแม่คุณนกจึงจบลงด้วยการนำคำถามที่ได้ไปถามเภสัชกรที่ร้านยาซึ่งอยู่ห่างออกไปสองร้อยเมตร โดยใช้เวลาเพียงสิบนาที นั่นคือวิธีใช้เครื่องมือนี้ที่ถูกต้องที่สุดในสถานการณ์นั้น คือให้มันช่วยตั้งคำถามให้ครบ แล้วเอาไปถามคนที่ตอบได้จริง

กฎหมายและสัญญา