โมเดลรุ่นใหญ่ที่เครื่องทั่วไปเอาไม่อยู่
ข่าว AI ชอบหยิบตัวเลขมหึมาของโมเดลมาพาดหัว: 122B · 397B · 671B บทนี้ไม่ใช่ how-to เพราะโมเดลพวกนี้เกินกำลังเครื่องแทบทุกระดับที่พูดถึงในเล่ม แต่อ่านจบแล้วคุณจะอ่านข่าวพวกนี้รู้เรื่อง รู้ว่าแต่ละตัวต้องใช้เครื่องระดับไหน และเครื่องของตัวเองยังต้องอัปเกรดอีกแค่ไหนจึงจะรันได้
สามระดับที่เครื่องทั่วไปเอาไม่อยู่
ขั้นที่หนึ่ง · เวิร์กสเตชัน (memory ราว 70-100GB) ตัวแทนคือ gpt-oss:120b (ไฟล์ 65GB) กับ qwen3.5:122b (ไฟล์ 81GB) วิธีคำนวณสเปกเครื่องยังเหมือนเดิมและไม่ซับซ้อน: เครื่องต้องมี memory มากกว่าขนาดไฟล์พอสมควร ในทางปฏิบัติจึงต้องใช้ GPU ระดับดาต้าเซ็นเตอร์ 80GB อย่าง H100 (ตามที่ OpenAI ระบุไว้เอง) หรือ Mac Studio ที่สั่ง memory ความจุสูงอย่างที่กล่าวไว้ในบท 11 นี่คือขั้นเดียวในบทนี้ที่คนทั่วไปเอื้อมถึงได้ด้วยเงินก้อนเดียว
ขั้นที่สอง · เซิร์ฟเวอร์หลายการ์ด (หลายร้อย GB) ตัวแทนคือ Qwen3.5-397B-A17B โมเดลเปิดรุ่นเรือธงของ Qwen3.5 มีพารามิเตอร์รวม 397B แต่ทำงานจริงครั้งละ 17B ตัวเต็มเปิดให้โหลดได้จริงบน Hugging Face เอกสารของ Qwen ยกตัวอย่างการรันด้วยเซิร์ฟเวอร์ที่แบ่งงานข้าม GPU ถึง 8 ใบ บน Ollama โมเดลนี้จึงมีให้ใช้เป็นแท็ก cloud เท่านั้น อย่างที่เตือนไว้ในบท 1 ว่าสะดวกจริง แต่ไม่ใช่ local แล้ว
ขั้นที่สาม · ระดับสูงสุดของโมเดลเปิด ตัวแทนคือ DeepSeek-R1 ฉบับเต็ม: 671B ทำงานจริงครั้งละ 37B โมเดลนี้สร้างกระแสฮือฮาไปทั่วโลก เพราะ open ไล่ทัน closed ได้ในงาน reasoning ตัวเต็มมีขนาดใหญ่จนแม้แต่บริษัทยังต้องคิดให้รอบคอบก่อนตัดสินใจลงทุนรัน

ความคิดเห็น
ยังไม่มีความคิดเห็น
เป็นคนแรกได้เลย