Bonsai 27B เป็นโมเดลภาษา AI ขนาดใหญ่ โมเดลระดับนี้ปกติมีไฟล์ใหญ่ราว 54GB และต้องรันอยู่บนเซิร์ฟเวอร์ในคลาวด์ เวลาเราถาม AI ทีหนึ่ง ข้อความจึงต้องวิ่งออกจากเครื่องไปหาเซิร์ฟเวอร์ของคนอื่นก่อนเสมอ

ทีม PrismML ลดขนาดไฟล์จาก 54GB เหลือเพียงไม่กี่ GB โดยรุ่นที่เล็กที่สุดมีขนาดแค่ 3.9GB จึงดาวน์โหลดมารันบนโน้ตบุ๊ก บนเครื่องที่มีการ์ดจอเพียงตัวเดียว หรือแม้แต่บนมือถือของเราเองได้ ขนาดไฟล์ลดลงกว่า 90% แต่ความสามารถแทบไม่ลดลง สิ่งที่เคยดูเป็นเรื่องของอนาคตอย่าง "AI ที่รันในเครื่องของเราเอง" ตอนนี้ดาวน์โหลดมาลองได้จริงแล้ว

ทำไมโมเดล AI ตัวเต็มถึงกินพื้นที่มหาศาล

โมเดลภาษาหนึ่งตัวประกอบด้วย "น้ำหนัก" (พารามิเตอร์) จำนวนมหาศาล ค่าเหล่านี้เป็นตัวเลขที่โมเดลเรียนรู้ระหว่างการฝึก และเป็นตัวกำหนดว่าโมเดลจะตอบอะไรออกมา Bonsai 27B มีน้ำหนักแบบนี้ราว 27 พันล้านค่า

ปกติน้ำหนักแต่ละค่าจะเก็บเป็นเลขทศนิยมแบบละเอียด โดยใช้พื้นที่ 16 บิตต่อค่า เมื่อนับรวมทั้ง 27 พันล้านค่า ไฟล์จึงมีขนาดราว 54GB โมเดลตัวเต็มจึงต้องรันบนเซิร์ฟเวอร์ ไม่ใช่บนเครื่องของเรา

เก็บค่าน้ำหนักคร่าว ๆ แทนเลขทศนิยมละเอียด

Bonsai ต่อยอดจากโมเดลโอเพนซอร์ส Qwen3.6-27B โดยไม่เปลี่ยนโครงสร้างภายใน แต่เปลี่ยนวิธีเก็บค่าน้ำหนักทั้งหมด แนวคิดนี้ตรงไปตรงมา แทนที่จะเก็บค่าน้ำหนักทุกค่าเป็นเลขทศนิยมละเอียด ก็เก็บเป็นค่าคร่าว ๆ เพียงไม่กี่ระดับ

รุ่นที่เล็กที่สุดคือ Bonsai 27B แบบ 1-bit ซึ่งไม่ได้เก็บค่าน้ำหนักเป็นตัวเลขละเอียด แต่เก็บเพียงว่าค่าน้ำหนักแต่ละค่าเป็นบวกหรือลบ จึงเหลือข้อมูลแค่บิตเดียวต่อหนึ่งค่า

อีกรุ่นคือ Ternary Bonsai 27B ซึ่งกำหนดค่าน้ำหนักแต่ละตัวได้สามค่า ได้แก่ บวก (+1) ลบ (−1) หรือศูนย์ (0) ค่าศูนย์หมายความว่า "น้ำหนักค่านั้นแทบไม่มีผล" ทำให้โมเดลทำงานได้ใกล้เคียงรุ่นต้นฉบับมากขึ้น และรักษาความสามารถไว้ได้มากกว่ารุ่น 1-bit

ผลลัพธ์คือ ข้อมูลต่อค่าลดจาก 16 บิตเหลือแค่ราว ๆ 1 บิต ขนาดไฟล์จึงลดจาก 54GB เหลือ 3.9GB ในรุ่น 1-bit และ 7.2GB ในรุ่น ternary

หยาบขนาดนั้นแล้วยังฉลาดอยู่ไหม

เมื่อเก็บค่าน้ำหนักแบบคร่าว ๆ ขนาดนี้ โมเดลจะโง่ลงไหม คำตอบคือแทบไม่โง่ลงเลย เมื่อนำไปวัดด้วยชุดทดสอบมาตรฐาน รุ่น 1-bit ได้คะแนนคิดเป็น 89.5% ของคะแนนที่รุ่นต้นฉบับทำได้ ส่วนรุ่น ternary ได้ถึง 94.6%

เหตุผลที่ยังเก่งอยู่คือ สำหรับค่าน้ำหนักส่วนใหญ่ การเก็บแค่ข้อมูลว่าแต่ละค่าเป็นบวกหรือลบก็เพียงพอให้โมเดลยังทำงานส่วนใหญ่ได้เหมือนเดิม รายละเอียดของเลขทศนิยมที่หายไปมีผลน้อยกว่าที่คิด โมเดลจึงยังทำงานได้ใกล้เคียงเดิม

Bonsai ไม่ได้เก็บบางส่วนของโมเดลไว้แบบละเอียด แต่ลดรายละเอียดของทุกส่วนลงจริง ๆ ขนาดไฟล์ที่ทีมงานบอกไว้จึงตรงกับพื้นที่จัดเก็บที่ใช้จริง

โหลดลงมือถือแล้วรันได้จริง

รุ่น 1-bit มีขนาดไฟล์แค่ 3.9GB จึงใส่ลงในหน่วยความจำของโน้ตบุ๊กทั่วไปหรือการ์ดจอเพียงตัวเดียวได้สบาย ยิ่งไปกว่านั้น รุ่นนี้ยังรันบนมือถือได้ด้วย บนไอโฟน 17 Pro Max ทำความเร็วได้ราว 11 โทเคนต่อวินาที (โทเคนคือหน่วยข้อความที่โมเดลทยอยสร้างทีละชิ้น) ทีมงานเรียกมันว่าโมเดลระดับ 27B ตัวแรกที่รันบนมือถือได้

การรันโมเดล AI ในเครื่องของเราเองกำลังได้รับความนิยมมากขึ้นเรื่อย ๆ ก่อนหน้านี้ก็มี Gemma 4 ที่รันในเบราว์เซอร์ได้เลย โดยไม่ต้องพึ่งเซิร์ฟเวอร์เลย ส่วน Bonsai เป็นโมเดลที่ใหญ่กว่าเดิมมาก แต่ยังรันบนอุปกรณ์เล็ก ๆ อย่างมือถือได้

พอโมเดลทั้งก้อนอยู่ในเครื่องของเราเอง เราก็ไม่ต้องจ่ายค่าคลาวด์รายเดือน ข้อมูลที่พิมพ์เข้าไปไม่ออกจากเครื่อง และยังใช้งานได้แม้ไม่มีเน็ต

สองรุ่นนี้เหมาะกับการใช้งานคนละแบบ รุ่น 1-bit เล็กกว่าและลงมือถือได้ แต่เก่งน้อยกว่าเล็กน้อย ส่วนรุ่น ternary เก่งกว่า แต่ไฟล์ขนาด 7.2GB ใหญ่เกินหน่วยความจำที่มือถือให้แต่ละแอปใช้ได้ รุ่นนี้จึงเหมาะกับโน้ตบุ๊กหรือเครื่องที่มีการ์ดจอมากกว่า

ยังใช้แทนโมเดลคลาวด์ไม่ได้ทุกงาน

ทั้งหมดนี้ฟังดูดี แต่ต้องพูดกันตรง ๆ ว่า Bonsai ยังใช้แทนโมเดลคลาวด์ระดับท็อปไม่ได้ทุกงาน เมื่อเจองานยาก ๆ Bonsai จะด้อยกว่าอย่างเห็นได้ชัด เช่น งานที่ต้องให้ AI ทำงานหลายขั้นต่อเนื่องเองแบบ agent งานที่ต้องดูรูปภาพ และงานที่ต้องทำตามคำสั่งซับซ้อนซึ่งมีเงื่อนไขเยอะ เฉพาะงานเขียนโค้ดแบบ agent นั้น ทีมงานบอกเองว่ายังเป็นเป้าหมายของรุ่นถัดไป ไม่ใช่ตอนนี้

แต่มันยังทำงานในชีวิตประจำวันหลายอย่างบนเครื่องของเราได้ดี เช่น สรุปความ ร่างข้อความ ตอบคำถาม หรือช่วยคิดวิเคราะห์

ลองเองวันนี้

Bonsai เปิดให้ใช้งานฟรีภายใต้สัญญาอนุญาต Apache 2.0 และนำไปใช้เชิงพาณิชย์ได้ วิธีลองก็ไม่ยากอย่างที่คิด

เริ่มจากดาวน์โหลดไฟล์ GGUF (ไฟล์มาตรฐานสำหรับเก็บโมเดลไว้รันในเครื่อง) ของรุ่นที่อยากลอง จากนั้นใช้โปรแกรมสำหรับรันโมเดลในเครื่อง เช่น llama.cpp เวอร์ชันที่รองรับการเก็บค่าน้ำหนักแบบนี้ ถ้าอยากให้ขั้นตอนง่ายขึ้นก็ใช้ Ollama ได้เลย ส่วนใครที่อยากลองบนไอโฟน มี เวอร์ชัน MLX สำหรับรันบนชิป Apple เตรียมไว้ให้แล้ว

บนคอมพิวเตอร์ หลังติดตั้ง llama.cpp หรือ Ollama ไว้แล้ว ที่เหลือก็แค่โหลดไฟล์มาแล้วสั่งรัน หน้าตาคำสั่งจะประมาณนี้

hf download prism-ml/Bonsai-27B-gguf Bonsai-27B-Q1_0.gguf --local-dir .
./build/bin/llama-cli -m Bonsai-27B-Q1_0.gguf -p "สวัสดี ช่วยแนะนำตัวหน่อย" -ngl 99

ถ้าเคยลองโหลดโมเดล AI โอเพนซอร์สมารันในเครื่องเอง เช่น GLM-5.2 ที่รันเองได้ฟรี มาก่อน ขั้นตอนก็คล้ายกันมาก เปลี่ยนแค่ชื่อไฟล์โมเดลเท่านั้น

เส้นแบ่งที่ค่อย ๆ หายไป

ที่ผ่านมา ขนาดไฟล์เป็นตัวกำหนดว่า AI เก่ง ๆ สักตัวจะรันบนเครื่องของเราได้หรือไม่ เมื่อไฟล์มีขนาดเล็กพอสำหรับอุปกรณ์ที่พกติดตัว ก็ไม่จำเป็นต้องรันบนเซิร์ฟเวอร์ของคนอื่นอีกต่อไป

ที่มา:

• Bonsai 27B (1-bit GGUF) จาก PrismML
• Ternary Bonsai 27B (GGUF) จาก PrismML