$ loading
$ cd ~/local-llm
Local LLM รันเองบนเครื่อง ข้อมูลไม่ออกไปไหน
ตั้งแต่เลือกโมเดลให้พอดีกับเครื่อง ไปจนถึงต่อเข้ากับเครื่องมือที่ใช้อยู่ รวมวิธีและข้อแลกเปลี่ยนไว้ครบ
$ cat local-llm/answer.md
Local LLM คืออะไร
Local LLM คือการโหลดโมเดลมารันบนเครื่องตัวเองแทนการเรียก API ของผู้ให้บริการ ข้อดีที่ชัดที่สุดคือข้อมูลไม่ออกนอกเครื่อง ไม่มีค่าใช้จ่ายต่อโทเคน และใช้ได้แม้ออฟไลน์ ข้อแลกเปลี่ยนคือคุณภาพยังตามรุ่นท็อปของค่ายใหญ่อยู่ในงานที่ต้องคิดหลายขั้น และต้องมีเครื่องแรงพอ โดยเฉพาะแรมหรือ VRAM ซึ่งเป็นตัวจำกัดหลักว่าจะรันโมเดลขนาดไหนได้ วิธีเริ่มที่ง่ายที่สุดคือใช้ตัวจัดการอย่าง Ollama หรือ LM Studio แล้วเลือกโมเดลขนาดกลางที่พอดีกับเครื่องก่อน ค่อยขยับขึ้นเมื่อรู้ว่างานจริงต้องการแค่ไหน
$ ls ~/local-llm
เริ่มตรงไหนดี
ไล่ตามลำดับนี้ได้เลย ตั้งแต่ยังไม่รู้อะไรจนใช้กับงานจริง
$ tail -f local-llm.log
อ่าน เรียน ลงมือทำเรื่อง Local LLM
$ grep -ri "local-llm" ~/journal
เลือกอ่านตามหมวด
โมเดล AI · 14 เรื่อง
010203
Needle 2 โมเดล 14MB ที่สั่งงานอุปกรณ์ได้ในเครื่อง โดยไม่ต้องต่อเน็ต
11 ส.ค. 2569 · 11 นาที · อ่าน 54 ครั้งMuse Glimmer 30B ให้ Claude Code ใช้โมเดลในเครื่องผ่าน Ollama บน Apple Silicon
11 ส.ค. 2569 · 4 นาที · อ่าน 20 ครั้งDeepSeek-V4-Flash-0731 โมเดลที่โหลดมารันเองได้ ไล่จี้ Opus-4.8 ในงานเอเจนต์ แต่ไฟล์เล็กสุดยัง 82.5 GB
2 ส.ค. 2569 · 11 นาที · อ่าน 73 ครั้งสอนใช้งาน · 6 เรื่อง
010203
MiniMax Music 3 เปิดน้ำหนักโมเดล: เริ่มทำเพลงใน ComfyUI แบบแยก Lyrics กับ Caption
16 ส.ค. 2569 · 12 นาที · อ่าน 5 ครั้งการตั้งค่าสามอย่างใน ComfyUI ที่ผู้ใช้ RTX 4070 รายงานว่าลดเวลาเรนเดอร์ MiniMax H3 เหลือราวหนึ่งในสาม
11 ส.ค. 2569 · 12 นาที · อ่าน 28 ครั้งMiniMax H3 บน ComfyUI ปั้นคลิปพร้อมเสียงในรอบเดียว โหลดมารันเองได้ แลกกับพื้นที่ดิสก์ 42 GB
4 ส.ค. 2569 · 12 นาที · อ่าน 46 ครั้งเครื่องมือ & สกิล · 9 เรื่อง
010203
opencodex ให้ Codex CLI กับ Claude Code เรียกโมเดลจากผู้ให้บริการกว่า 40 เจ้าได้ด้วยพร็อกซีในเครื่องตัวเอง
17 ส.ค. 2569 · 9 นาทีWASTE รันโมเดล Kimi K3 เต็มก้อน 2.78 ล้านล้านพารามิเตอร์ บน MacBook Pro RAM 64 GB เครื่องเดียว
2 ส.ค. 2569 · 13 นาที · อ่าน 52 ครั้งTurboFieldfare รันโมเดล Gemma 4 ขนาด 26B บน MacBook Air RAM 8 GB ด้วยหน่วยความจำราว 2 GB
30 ก.ค. 2569 · 10 นาที · อ่าน 173 ครั้งพื้นฐาน & อธิบาย · 5 เรื่อง
010203
kimi-k3-in-c รัน Kimi K3 พารามิเตอร์ 2.78 ล้านล้านตัวบนซีพียูตัวเดียวด้วยแรม 8.24 กิกะไบต์
5 ส.ค. 2569 · 9 นาที · อ่าน 16 ครั้งรัน RAG ในเครื่องด้วย Ollama, ChromaDB และ LangChain ให้ AI ตอบคำถามจากคู่มือ 2,111 หน้า โดยไม่ส่งข้อมูลออกนอกเครื่อง
26 ก.ค. 2569 · 12 นาที · อ่าน 309 ครั้งai-job-finder ให้ Ollama ในเครื่องไล่อ่านหน้าสมัครงานของทุกบริษัทข้ามคืน แล้วคัดงานที่ใช่มาให้
18 ก.ค. 2569 · 7 นาที · อ่าน 3 ครั้ง$ ls ~/tools
เครื่องมือที่ใช้เรื่องนี้
อ่านหลักการที่นี่แล้วไปดูของจริงที่หน้าเครื่องมือได้เลย
$ man local-llm
คำถามที่พบบ่อยเรื่อง Local LLM
เครื่องต้องแรงแค่ไหน?
แรมหรือ VRAM เป็นตัวจำกัดหลัก โมเดลขนาดกลางเริ่มรันได้บนเครื่องทั่วไป ส่วนรุ่นใหญ่ต้องการมากขึ้นอีกหลายเท่า
คุณภาพสู้ของออนไลน์ได้ไหม?
งานทั่วไปพอไหว แต่งานที่ต้องคิดหลายขั้นยังตามรุ่นท็อปของค่ายใหญ่อยู่
เริ่มจากเครื่องมือตัวไหนดี?
ตัวจัดการอย่าง Ollama หรือ LM Studio ง่ายที่สุดสำหรับการเริ่ม
ใช้กับ coding agent ได้ไหม?
ได้ มีวิธีต่อโมเดลในเครื่องเข้ากับเครื่องมือเขียนโค้ดที่ใช้อยู่
ประหยัดกว่าจริงไหม?
ประหยัดค่าโทเคน แต่ต้องแลกกับค่าเครื่องและเวลาตั้งค่า คุ้มเมื่อใช้หนักและต่อเนื่อง
ตามเรื่อง Local LLM ให้ทัน
มีบทความใหม่ เทคนิคเด็ด หรือของฟรีเมื่อไหร่ เราส่งเมลไปบอก