Unsloth ซอฟต์แวร์โอเพนซอร์สที่ใช้ได้ฟรี สำหรับปรับแต่งและรันโมเดลภาษาขนาดใหญ่ (LLM) บนเครื่องตัวเอง ประกาศรองรับฮาร์ดแวร์ AMD อย่างเป็นทางการแล้ว ทำให้ความเชื่อเดิมๆ ที่ว่าการเทรนหรือรันโมเดล AI ต้องใช้การ์ด Nvidia เท่านั้น เริ่มไม่จริงอีกต่อไป

ที่ผ่านมา ใครที่ใช้การ์ด AMD ประกอบคอมหรือเล่นเกม มักรู้สึกเหมือนถูกกั้นออกจากวงการ AI ทั้งที่ตัวการ์ดก็แรงไม่แพ้ใคร เพียงเพราะเครื่องมือสายปรับแต่งโมเดลมักออกแบบมาให้ทำงานกับ CUDA ของ Nvidia เป็นหลัก แต่ล่าสุดทีม Unsloth ได้ประกาศในชุมชน r/selfhosted ว่าพวกเขาร่วมมือกับ AMD โดยตรง เพื่อให้การ์ด AMD แทบทุกรุ่นสามารถเทรน รัน และนำโมเดลไปใช้งานจริง (train · run · deploy) ได้เรียบร้อยแล้ว

Unsloth คืออะไร ทำไมสายรันโมเดลในเครื่องถึงติดใจ

Unsloth เป็นซอฟต์แวร์โอเพนซอร์สแบบใช้ฟรี เอาไว้เทรนและรันโมเดลอย่าง Gemma · Qwen · DeepSeek · Kimi หรือ GLM บนเครื่องตัวเอง จุดเด่นที่ทำให้คนในวงการติดใจคือความเร็วและการประหยัด VRAM บนการ์ดจอ

หัวใจสำคัญของ Unsloth คือการ fine-tune หรือนำโมเดลสำเร็จรูปมาเทรนเพิ่มด้วยข้อมูลเฉพาะ เพื่อให้ตอบโจทย์งานที่ต้องการ ปกติแล้วขั้นตอนแบบนี้จะกินทั้งเวลาและ VRAM ซึ่งก็คือหน่วยความจำบนการ์ดจอ ยิ่งโมเดลขนาดใหญ่ก็ยิ่งกินทรัพยากรหนัก แต่ Unsloth ระบุว่าสามารถเทรนโมเดลได้มากกว่า 500 ตัว ทำความเร็วได้ดีขึ้นสูงสุด 2 เท่า และประหยัด VRAM ได้ถึง 70% โดยความแม่นยำของโมเดลไม่ลดลงเลย

ตัวเลขข้างต้นเป็นการเทรนโมเดลทั่วไป แต่หากเป็นโมเดลโครงสร้าง MoE (Mixture of Experts) ที่กระจายงานให้ส่วนประมวลผลย่อยช่วยกันทำงาน ตัวเลขประสิทธิภาพจะยิ่งสูงขึ้นไปอีก โดยเทรนได้เร็วขึ้นสูงสุดถึง 12 เท่า พร้อมลดการใช้ VRAM ลงได้อีก 35%

เบื้องหลังความเร็วระดับนี้ไม่ได้เกิดจากการตัดลดคุณภาพโมเดลทิ้ง แต่ทีมงานอธิบายว่าเป็นการเขียน kernel หรือโค้ดระดับล่างที่สั่งงานการ์ดจอโดยตรง ร่วมกับการปรับสูตรคำนวณให้ประมวลผลได้ดีที่สุด แถมยังเปิดโค้ดทั้งหมดเป็นโอเพนซอร์สให้ทุกคนเข้าไปตรวจสอบและวัดผลได้เอง

สำหรับการใช้งานมีให้เลือก 2 รูปแบบ ใครที่ไม่ถนัดเขียนโค้ดสามารถใช้ Unsloth Studio ซึ่งเป็นอินเทอร์เฟซหน้าเว็บให้เลือกโมเดล ใส่ชุดข้อมูล ตั้งค่า แล้วกดเริ่มเทรนได้ทันที ส่วนสายโปรแกรมเมอร์ที่ต้องการควบคุมเองก็มี Unsloth Core ให้เขียนโค้ดใช้งานได้ตามสะดวก

AMD ทั้งเทรนและรัน LLM ได้แล้ว ไม่ได้จำกัดแค่ฝั่งรัน

ไฮไลต์สำคัญคือความร่วมมือกับ AMD ที่ช่วยให้ Unsloth ทำงานบนฮาร์ดแวร์ฝั่ง AMD ได้ครอบคลุมแทบทุกไลน์ ตั้งแต่การ์ดจอเล่นเกมอย่าง Radeon ไปจนถึง Ryzen · Instinct และการ์ดประมวลผลสำหรับดาต้าเซ็นเตอร์ แถมยังรองรับทั้งบน Windows · WSL และ Linux

สิ่งที่น่าสนใจยิ่งกว่าคือความสามารถที่ไม่ได้มีแค่การนำโมเดลมารัน (inference) เพียงอย่างเดียว แต่ครอบคลุมไปถึงขั้นตอนการเทรนโมเดลด้วย โดยทีมงานได้ทำ ROCm build เวอร์ชันปรับแต่งพิเศษสำหรับฝั่งรันและฝั่งเทรนโดยเฉพาะ ซึ่ง ROCm คือชุดซอฟต์แวร์ของ AMD ที่ช่วยให้การ์ดจอประมวลผลงานคำนวณหนักๆ ทำหน้าที่คล้ายกับ CUDA ของฝั่ง Nvidia

ยิ่งไปกว่านั้น แม้เครื่องจะมีแค่ซีพียู AMD โดยไม่มีการ์ดจอแยก ก็ยังสามารถรันโมเดลอย่าง Qwen · Gemma · DeepSeek หรือ Kimi บนเครื่องได้เช่นกัน

เริ่มได้จากการ์ดแค่ไหน

คำถามสำคัญคือต้องใช้การ์ดจอระดับไหนถึงจะเริ่มใช้งานได้ ทาง Unsloth ระบุว่าหากต้องการรันโมเดลขนาดเล็กอย่าง Qwen หรือ Gemma ใช้ VRAM เพียงประมาณ 3GB เท่านั้น ซึ่งเป็นระดับที่การ์ดจอรุ่นใหม่ๆ มักมีให้อยู่แล้ว

แต่ต้องเข้าใจตัวเลขนี้ให้ถูกต้อง 3GB คือระดับ VRAM ที่พอเอาโมเดลตัวเล็กมาเปิดรันได้เท่านั้น ไม่ได้หมายความว่าจะนำไปใช้เทรนโมเดลใหญ่ๆ ได้ เพราะการเทรนโมเดลขนาดใหญ่ขึ้นก็ยังคงต้องใช้ VRAM เพิ่มตามขนาดของโมเดลอยู่ดี

ได้อะไรจริงจากการรันในเครื่องตัวเอง

ประโยชน์ที่เห็นได้ชัดจากการรันโมเดลบนเครื่องตัวเองมี 2 เรื่องหลัก เรื่องแรกคือความประหยัด เพราะไม่ต้องคอยจ่ายเงินเช่า GPU บนคลาวด์เป็นรายชั่วโมง แต่ดึงพลังจากการ์ดจอที่มีอยู่ในเครื่องมาใช้งานได้ทันที เรื่องที่สองคือความเป็นส่วนตัว เนื่องจากข้อมูลที่ใช้เทรนหรือส่งคำถามให้โมเดลจะประมวลผลอยู่ภายในเครื่องตลอดเวลา ไม่ต้องส่งออกไปเสี่ยงบนคลาวด์

กลุ่มที่ได้รับประโยชน์ไปเต็มๆ มีทั้งเกมเมอร์และสายประกอบคอมที่ถือการ์ด AMD อยู่ในมือแล้ว · คนเพิ่งเริ่มสนใจ AI ที่อยากลองของจริงโดยไม่ต้องควักเงินซื้อการ์ดจอใหม่ · ไปจนถึงคนที่อยากเปิดรัน LLM ไว้ในเครื่องเพื่อเก็บข้อมูลไว้กับตัว

แต่ยังไม่ใช่กดปุ่มเดียวจบ

แต่ก่อนจะดีใจกันเกินไป ต้องยอมรับตรงๆ ว่าขั้นตอนการใช้งานยังต้องอาศัยการตั้งค่าอยู่พอสมควร ไม่ได้ง่ายขนาดกดติดตั้งแล้วพร้อมใช้งานทันทีเหมือนเกมทั่วไป ทั้งการเตรียมสภาพแวดล้อม ROCm และทำตามขั้นตอนต่างๆ ยังต้องอาศัยพื้นฐานคอมพิวเตอร์และความอดทนอยู่บ้าง

นอกจากนี้ คำว่ารองรับ "เกือบทุก" รุ่น ไม่ได้แปลว่าใช้ได้กับทุกใบจริงๆ อย่างการ์ดรุ่นเก๋ากึ๊กอย่าง RX 5700XT ทางทีมงานยืนยันแล้วว่ายังไม่รองรับ เนื่องจากตัวการ์ดเก่าเกินไปจนฝั่งไดรเวอร์เลิกสนับสนุนไปแล้ว ทั้งนี้ทีม Unsloth ย้ำว่านี่เป็นเพียง "จุดเริ่มต้น" ของการซัพพอร์ต AMD เท่านั้น และจะทยอยปรับปรุงเพื่อเพิ่มรายการการ์ดที่รองรับเพิ่มเติมในอนาคต

หากอยากเริ่มทดลองใช้งานจริง การติดตั้ง Unsloth ทั่วไปบน macOS · Linux หรือ WSL สามารถเริ่มต้นง่ายๆ ด้วยสคริปต์บรรทัดเดียว

curl -fsSL https://unsloth.ai/install.sh | sh

ส่วนบน Windows สามารถเลือกใช้สคริปต์ PowerShell หรือรันผ่าน Docker image ได้ตามสะดวก สำหรับขั้นตอนเฉพาะของฝั่ง AMD เช่นการเตรียมเซ็ตอัป ROCm แนะนำให้ทำตามคู่มือ AMD ของ Unsloth โดยตรง เพราะรายละเอียดคำสั่งจะแตกต่างกันไปตามรุ่นการ์ดจอและระบบปฏิบัติการที่ใช้งาน

เส้นแบ่งเดิมๆ ที่ว่าถ้าคิดจะทำ AI ต้องเลือกการ์ดให้ถูกค่ายกำลังค่อยๆ จางหายไป คำถามสำคัญจึงเปลี่ยนจาก "ต้องซื้อการ์ดยี่ห้อไหนถึงจะเริ่มได้" มาเป็น "การ์ดที่มีติดอยู่ในเครื่องตอนนี้ สามารถทำอะไรได้บ้างแล้ว"

ที่มา:

• โปรเจกต์ unslothai/unsloth บน GitHub
• โพสต์ประกาศบน r/selfhosted จากทีม Unsloth