วิธีรันอย่างเป็นทางการของ DeepSeek-V4-Flash-0731 โมเดลเขียนโค้ดตัวใหญ่จาก DeepSeek เล็งไปที่เครื่องเซิร์ฟเวอร์ที่มีการ์ด GPU หลายใบต่อกัน ไม่ใช่เครื่องที่ตั้งบนโต๊ะทำงานได้ แต่ตอนนี้มีคนนอกทีมอย่าง steadfastgaze ย่อมันลงมาเป็นไฟล์ชุดเดียวขนาด 56.8 GB ที่โหลดลงแมคชิปตระกูล M หรือ Apple Silicon เครื่องเดียวแล้วสั่งรันได้เลย แพ็กเกจนั้นชื่อ DeepSeek-V4-Flash-0731-Coder-56.8GB-MoEspressoV2 ผลงานที่จับต้องได้ของมันคือโปรแกรมแปลภาษาอย่างคอมไพเลอร์ภาษา C ขนาดเล็กที่มันเขียนออกมาได้ทั้งตัว โดยมีคลิปบันทึกหน้าจอตอนเขียนเก็บไว้ให้ดู

แพ็กเกจนี้ไม่ได้ย่อมาโดยคงความเก่งไว้เท่าเดิมทุกด้าน ผู้ทำจูนมาเพื่องานเขียนโค้ดโดยเฉพาะ ผลงานด้านโค้ดจึงยังใกล้เคียงของเดิม แต่คุณภาพข้อความทั่วไปลดลงชัดเจน เงื่อนไขด้านเครื่องก็จำกัด คือต้องเป็นแมค Apple Silicon และใช้เอนจินเฉพาะตัวเดียวเท่านั้น ส่วนวิธีลดขนาดไฟล์มีสองชั้น คือตัดส่วนที่งานเขียนโค้ดแทบไม่ได้เรียกใช้ออกไป แล้วบีบตัวเลขที่เหลือให้เก็บด้วยบิตน้อยลง

DeepSeek-V4-Flash-0731 แรงพอให้อยากโหลดมารันในเครื่องไหม

ตารางทดสอบประสิทธิภาพอย่างเบนช์มาร์กในหน้าทางการของ DeepSeek-V4-Flash-0731 ให้ภาพไว้พอสมควร ในชุดทดสอบ Terminal Bench 2.1 ซึ่งวัดการสั่งงานจริงผ่านหน้าจอพิมพ์คำสั่ง โมเดลตัวนี้ได้ 82.7 สูงกว่า DeepSeek-V4-Pro (Preview) ที่ได้ 72.1 และตามหลังโมเดลคู่แข่งอย่าง Opus-4.8 ที่ได้ 85.0 อยู่ไม่มาก ส่วนงานประกอบระบบทั้งหน้าบ้านหลังบ้านในชุดทดสอบ DSBench-FullStack ได้ 68.7 เทียบกับ 71.6 ของ Opus-4.8

หน้าทางการสรุปไว้เองว่ามันทำคะแนนแซง V4-Pro (Preview) ได้ ทั้งที่ตอนทำงานจริงเรียกใช้พารามิเตอร์น้อยกว่ามาก พารามิเตอร์คือตัวเลขน้ำหนักที่โมเดลใช้คิด

จุดที่ชวนสับสนคือ DeepSeek-V4-Flash-0731 กับ DeepSeek-V4-Pro (Preview) เป็นคนละโมเดลกัน ตัวเลขของ Pro ในตารางนั้นเป็นของ Pro ไม่ใช่ของ Flash และยิ่งไม่ใช่ของแพ็กเกจ 56.8 GB ที่ย่อมาแล้ว

อีกเรื่องที่ทำให้การย่อแบบนี้เกิดขึ้นได้ตั้งแต่แรก คือน้ำหนักของโมเดลตัวนี้เปิดให้โหลดไปใช้และแก้ต่อได้ภายใต้สัญญาอนุญาตแบบเปิดอย่าง MIT license ที่แทบไม่ผูกมัดอะไรเลย เหมือนที่โมเดลอย่าง GLM-5.2 เปิดน้ำหนักไว้แบบเดียวกัน ใครหยิบไปตัด ไปบีบ แล้วปล่อยเป็นแพ็กเกจของตัวเองก็ทำได้

ชั้นแรก MoE ตัดผู้เชี่ยวชาญที่งานโค้ดแทบไม่เคยใช้

โมเดลภาษาแบบเดิมต้องเรียกใช้พารามิเตอร์ทั้งชุดทุกครั้งที่ตอบหนึ่งคำ แต่โครงสร้างแบบ MoE หรือ Mixture of Experts แบ่งน้ำหนักในแต่ละชั้นเป็นก้อนย่อยหลายร้อยก้อน เรียกว่า expert หรือผู้เชี่ยวชาญ แล้วให้ router คอยเลือกว่าจะส่งคำที่เข้ามาให้ก้อนไหนประมวลผล

ผู้เชี่ยวชาญที่ว่านี้ไม่ใช่คน แต่เป็นก้อนตัวเลขน้ำหนัก แต่ละก้อนเรียนรู้จากการเทรนจนถนัดข้อมูลคนละแบบกัน

ใน DeepSeek-V4-Flash-0731 แต่ละชั้นมีผู้เชี่ยวชาญ 256 ตัว แต่ตอนทำงานจริง router หยิบมาใช้แค่ 6 ตัวต่อหนึ่ง token ซึ่งก็คือชิ้นคำที่โมเดลอ่านเข้าไปและส่งออกมาทีละชิ้น ช่องว่างระหว่าง 256 กับ 6 นี่เองคือที่มาของการย่อ ถ้าวัดแล้วพบว่าผู้เชี่ยวชาญบางตัวแทบไม่ได้ทำงานเลยในงานเขียนโค้ด ก็ตัดมันออกจากไฟล์ไป โดยที่จำนวนผู้เชี่ยวชาญที่ทำงานต่อหนึ่ง token ยังเท่าเดิมคือ 6 ตัว

จำนวนที่ตัดในแต่ละชั้นไม่เท่ากัน สามชั้นที่เลือกผู้เชี่ยวชาญด้วยสูตรตายตัวยังเก็บครบ 256 ตัว ส่วนอีก 40 ชั้นที่ใช้ router แบบเรียนรู้เองเก็บไว้ชั้นละ 176 จาก 256 ตัว เมื่อรวมทั้งโมเดลจึงเหลือผู้เชี่ยวชาญ 7,808 ก้อน ขั้นตอนนี้ทำให้พารามิเตอร์หายไปราว 80 พันล้านตัว เหลือรวมราว 204 พันล้าน จากของเดิมราว 284 พันล้าน ส่วนตอนทำงานจริงยังใช้แค่ราว 13 พันล้านตัวต่อหนึ่ง token

ชั้นที่สอง quantization บีบตัวเลขให้เก็บด้วยบิตน้อยลง

ตัดผู้เชี่ยวชาญไปแล้วไฟล์ก็ยังใหญ่อยู่ดี เพราะน้ำหนักที่เหลือ 204 พันล้านตัวยังต้องเก็บลงดิสก์ทั้งหมด ชั้นที่สองจึงเป็นกระบวนการ quantization หรือการลดความละเอียดของตัวเลขน้ำหนักแต่ละตัว จากเดิมที่เก็บตัวเลขหนึ่งตัวด้วยบิตจำนวนมาก ก็เปลี่ยนมาเก็บด้วยบิตน้อยลง ไฟล์เล็กลงตามจำนวนบิตที่หายไป แลกกับค่าที่หยาบขึ้นทีละนิด

จุดที่ทำให้แพ็กเกจนี้ไม่พังไปทั้งตัวคือมันไม่ได้บีบเท่ากันหมด ช่องน้ำหนักฝั่งผู้เชี่ยวชาญทั้ง 129 ช่องแบ่งเป็นสามระดับ คือ 32 ช่องใช้ฟอร์แมต IQ1_S_R4 ซึ่งบีบหนักกว่าอีกสองแบบที่เหลือ อีก 64 ช่องใช้ IQ2_KS และอีก 33 ช่องใช้ IQ2_K ส่วนน้ำหนักฝั่งที่ไม่ได้แยกเป็นผู้เชี่ยวชาญ ซึ่งทุก token ต้องวิ่งผ่านทั้งหมด เก็บด้วย q6_K ที่ละเอียดกว่าอย่างเห็นได้ชัด ของที่ใช้ทุกครั้งจึงได้ความละเอียดเต็มกว่าของที่นานๆ ใช้ที

สองชั้นรวมกันคือคำตอบว่าทำไมไฟล์ถึงเหลือ 56.8 GB แพ็กเกจอีกตัวของผู้ทำคนเดียวกันที่ไม่ได้ตัดผู้เชี่ยวชาญออก ใช้บิตเฉลี่ย 2.37 บิตต่อน้ำหนักหนึ่งตัว หรือที่เขียนย่อว่า 2.37 bpw จนได้ไฟล์ 84.355 GB ส่วนแพ็กเกจ Coder เล็กกว่านั้น 32.63%

ย่อแล้วต้องแลกอะไรไปบ้าง

หน้าโมเดลของแพ็กเกจ Coder มีผลวัดเทียบกับแพ็กเกจ 2.37 bpw ที่มีขนาดใหญ่กว่า ตัวเลขหลักที่ใช้วัดคือค่า perplexity ซึ่งบอกว่าโมเดลลังเลแค่ไหนตอนเดาคำถัดไป ยิ่งต่ำยิ่งดี

ตารางนี้ชี้ให้เห็นผลสองด้าน ฝั่งงานโค้ดกับงานแบบเอเจนต์ ซึ่งปล่อยให้โมเดลเรียกเครื่องมือทำงานต่อกันเองหลายขั้น มีตัวเลขแทบไม่ต่างกัน การเรียกใช้เครื่องมือแบบมีโครงสร้างห่างกันไม่ถึงหนึ่งจุด และคะแนนรวมของงานให้เหตุผลกับงานเรียกเครื่องมืออยู่ที่ 75.67% เทียบกับ 75.95% ของแพ็กเกจใหญ่ ส่วนฝั่งข้อความทั่วไปลดลงชัดเจน โดย perplexity ขยับจาก 5.5548 ไปเป็น 11.2043 หรือราวสองเท่า

ผู้ทำยังระบุว่าแพ็กเกจนี้ผ่านการตรวจอีกสองชุด คือจำข้อเท็จจริง 16 ข้อที่ซ่อนอยู่ในข้อความคำสั่งหรือพรอมต์ขนาดราว 30,000 token ได้ครบทั้ง 16 ข้อ และผ่านชุดทดสอบงานเขียนโค้ดส่วนตัวอีก 16 ข้อครบทั้งหมด

ผู้ทำแพ็กเกจระบุข้อจำกัดนี้ไว้บนหน้าโมเดลอย่างตรงไปตรงมา:

แปลว่าถ้างานคือเขียนโค้ด ไล่บั๊ก หรือสั่งเครื่องมือให้ทำงานต่อกันเป็นทอด แพ็กเกจนี้อยู่ในระดับที่ใช้ได้ แต่ถ้าจะเอาไปเขียนอีเมล สรุปรายงาน หรือคุยยาวๆ เป็นภาษาคน ควรเปิดโมเดลตัวอื่นมาทำแทน

ใครรันได้จริงตั้งแต่วันนี้

เงื่อนไขข้อแรกคือเครื่อง ต้องเป็นแมคชิป Apple Silicon ที่รัน macOS 26.2 (Tahoe) ขึ้นไป

เงื่อนไขข้อที่สองแข็งกว่านั้น คือไฟล์ชุดนี้เปิดได้ด้วยเอนจินตัวเดียวชื่อ MoEspresso ซึ่งเป็นโปรแกรมสำหรับรันโมเดล MoE บนแมคโดยเฉพาะ และต้องเป็นเวอร์ชัน 2.1 ขึ้นไป โดยรุ่นล่าสุดที่เอกสารระบุไว้คือ 2.1.2

เงื่อนไขข้อสามคือหน่วยความจำ แต่เอกสารไม่ได้ระบุแรมขั้นต่ำของแพ็กเกจ 56.8 GB ไว้เลย สเปกเดียวที่ระบุคือเครื่องทดสอบแพ็กเกจ 2.37 bpw รุ่นใหญ่กว่า เครื่องนั้นใช้ชิป M3 Max ที่มี GPU 40 คอร์ พร้อมหน่วยความจำรวม 128 GB ซึ่งซีพียูกับจีพียูใช้ร่วมกัน ตัวเลขนี้ไม่ใช่ขั้นต่ำของแพ็กเกจ Coder แต่พอบอกได้ว่าผู้ทำทดสอบบนเครื่องระดับไหน

สำหรับเครื่องที่มีหน่วยความจำไม่พอเก็บผู้เชี่ยวชาญทุกตัวไว้พร้อมกัน MoEspresso มีทางออกให้ คือสตรีมผู้เชี่ยวชาญที่ยังไม่ได้ใช้ขึ้นมาจาก SSD ตอนที่ router เรียกหา ถ้าหน่วยความจำพอ ระบบจะโหลดผู้เชี่ยวชาญครบทุกตัวค้างไว้ตั้งแต่แรกและรายงานว่า capacity=256 ถ้าไม่พอ ก็ค่อยอ่านตัวที่ขาดขึ้นมาระหว่างทาง คนรันเลือกได้ว่าจะยอมแลกความเร็วบางส่วน เพื่อให้เครื่องที่แรมน้อยกว่ายังได้ลอง

เริ่มใช้จริงต้องพิมพ์อะไรบ้าง

ขั้นแรกติดตั้งตัวเอนจินผ่านตัวติดตั้งโปรแกรมสายบรรทัดคำสั่งของแมคอย่าง Homebrew แล้วเช็กเวอร์ชันที่ได้มา

brew install steadfastgaze/tap/moespresso
moespresso --version

ขั้นที่สองโหลดตัวแพ็กเกจลงโฟลเดอร์ที่กำหนดเอง โดยใช้คำสั่ง hf ของแพลตฟอร์มรวมโมเดลอย่าง Hugging Face

brew install hf
hf download steadfastgaze/DeepSeek-V4-Flash-0731-Coder-56.8GB-MoEspressoV2 \
  --local-dir ./models/deepseek-v4-flash-coder

ขั้นที่สามห้ามข้าม ต้องสั่งตรวจไฟล์ก่อนเปิดใช้ คำสั่งนี้จะเช็กว่าไฟล์ทุกชิ้นที่ประกาศไว้มีครบและขนาดถูกต้อง รวมทั้งค่าตรวจสอบไฟล์แบบ SHA-256 ตรงกับที่ประกาศ ขั้นตอนนี้ช่วยจับไฟล์ที่โหลดมาไม่ครบก่อนเปิดเซิร์ฟเวอร์

moespresso verify ./models/deepseek-v4-flash-coder

ตรวจผ่านแล้วค่อยสั่งเปิดเซิร์ฟเวอร์ในเครื่อง จากนั้นตัวโมเดลก็รอรับงานอยู่ในแมคเครื่องนั้น

moespresso serve ./models/deepseek-v4-flash-coder

รันในเครื่องตัวเองแล้วเปลี่ยนอะไรบ้าง

สิ่งที่เปลี่ยนไม่ได้อยู่ที่คะแนนเบนช์มาร์ก แต่อยู่ที่ข้อมูลไม่ต้องเดินทางออกจากเครื่อง โค้ดของงานที่ยังไม่ประกาศ สัญญาลูกค้า ไฟล์ภายในบริษัท อยู่ในแมคเครื่องนั้นตั้งแต่ต้นจนจบ ไม่มีค่าเรียกใช้ต่อครั้งให้ต้องคำนวณ และไม่ต่อเน็ตก็ยังทำงานได้ เหมือนที่โมเดลอย่าง Muse Glimmer 30B ทำให้เครื่องมือเขียนโค้ดหันมาใช้โมเดลในเครื่องได้ ต่างกันที่รอบนี้ตัวโมเดลใหญ่กว่าเดิมมาก

อีกด้านที่ต้องพูดให้ครบคือ MoEspresso ยังเป็นโปรเจกต์ใหม่และเล็ก ยอดโหลดของแพ็กเกจ Coder ในเดือนล่าสุดอยู่ที่ 270 ครั้ง ขณะที่โมเดลต้นทางบนหน้าทางการอยู่ที่ 2,123,462 ครั้ง แปลว่ายังมีคนใช้งานจริงไม่มาก งานที่พลาดไม่ได้จึงยังไม่ควรฝากไว้กับมัน ที่เหมาะกว่าคือใช้ลองทำงานส่วนตัว หรือเก็บไว้เป็นตัวสำรองตอนออฟไลน์

ฝั่งเครื่องมือรันโมเดลบนแมคขยับเร็วกว่าฝั่งฮาร์ดแวร์อยู่มาก ทั้งเอนจินที่รีดความเร็วเพิ่มจากเครื่องเดิมอย่าง BaseRT และวิธีย่อโมเดลแบบสองชั้นที่แพ็กเกจนี้ทำ ทั้งสองทางเดินไปที่ปลายทางเดียวกัน คือทำให้โมเดลที่เมื่อก่อนต้องเช่าเครื่องคนอื่นรัน มานั่งอยู่ในเครื่องที่เราถือเองได้

วันนี้ยังต้องเป็นแมคที่แรงพอตัวถึงจะรันไหว แต่ทุกครั้งที่มีคนหาวิธีย่อได้อีกชั้น คนที่ใช้เครื่องธรรมดาก็มีโอกาสรันโมเดลตัวใหญ่เองได้มากขึ้น

ที่มา:

• DeepSeek-V4-Flash-0731-Coder-56.8GB-MoEspressoV2 จาก steadfastgaze บน Hugging Face
• MoEspresso จาก steadfastgaze บน GitHub
• DeepSeek-V4-Flash-0731 จาก deepseek-ai บน Hugging Face