OpenJarvis สลับค่าตั้งต้นของผู้ช่วย AI ส่วนตัวกลับด้าน แทนที่จะส่งทุกคำถามขึ้นคลาวด์ โมเดลที่อยู่ในเครื่องเราจะตอบก่อน แล้วค่อยเรียกคลาวด์เฉพาะงานที่เครื่องทำไม่ไหว คนที่ทำคือทีมวิจัยจาก Stanford สองกลุ่ม ได้แก่ Hazy Research และ Scaling Intelligence Lab

ลองนึกภาพตอนถามผู้ช่วย AI ว่าเช้านี้มีอีเมลอะไรต้องรีบตอบบ้าง คำถามนั้นไม่ได้อยู่แค่ในเครื่อง แต่เดินทางออกไปพร้อมเนื้อความในกล่องจดหมาย ไปถึงเซิร์ฟเวอร์ของผู้ให้บริการอีกฝั่งหนึ่ง แล้วคำตอบถึงเดินทางกลับมา ทั้งที่ข้อมูลตั้งต้นทั้งหมดอยู่ในเครื่องเราตั้งแต่แรก

ทีมที่ทำเขียนไว้ตรงหน้าแรกของโปรเจกต์เลยว่า ผู้ช่วยส่วนตัวที่โผล่มาเต็มไปหมดตอนนี้ แทบทุกตัวยังส่งไปให้เซิร์ฟเวอร์ของคนอื่นประมวลผลอยู่ดี คำว่าส่วนตัวจึงหยุดอยู่แค่ชื่อ

ส่วนของที่จับต้องได้จริงคือ ติดตั้งด้วยคำสั่งเดียวราวสามนาที เปิดใช้งานแล้วได้เอเจนต์ หรือโปรแกรมทำงานอัตโนมัติในตัวมาอีก 8 ตัว และโค้ดทั้งก้อนเปิดให้เอาไปใช้ต่อได้

งานวิจัย Intelligence Per Watt บอกว่าเครื่องเราตอบได้ 88.7% แล้ว

ทีมเดียวกันนี้ทำงานวิจัยชื่อ Intelligence Per Watt ซึ่งวัดว่าโมเดลทำงานได้มากแค่ไหนต่อพลังงานที่ใช้หนึ่งหน่วย ผลที่รายงานไว้มีสองตัวเลขที่ควรอ่านคู่กัน

ตัวแรกคือขอบเขตของงาน โมเดลที่รันในเครื่องตอบคำถามแชทและโจทย์ใช้เหตุผลแบบถามครั้งเดียวจบได้แล้วราว 88.7% ของคำถามทั้งหมดที่เอามาวัด ตัวที่สองคือต้นทุนของงานนั้น ประสิทธิภาพต่อพลังงานของโมเดลในเครื่องดีขึ้น 5.3 เท่าในช่วงปี 2023 ถึง 2025 พูดง่ายๆ คือตัวแรกบอกว่าเครื่องเราตอบไหวแค่ไหน ส่วนตัวที่สองบอกว่าใช้ไฟเท่าไรในการตอบ

จุดที่ชวนสับสนคือ 88.7% นี้พูดถึงคำถามแบบถามครั้งเดียวจบเท่านั้น งานที่ต้องคุยต่อกันหลายรอบ หรือคิดยาวเป็นขั้นๆ ไม่ได้นับรวมอยู่ในตัวเลขนี้ แต่ต่อให้ตัดส่วนนั้นออก ตัวเลขนี้ก็ยังชี้ให้เห็นได้ชัดพอว่า ฮาร์ดแวร์ที่มีอยู่ในบ้านเรารับงานถามตอบส่วนใหญ่ได้มานานแล้ว สิ่งที่ขาดคือซอฟต์แวร์ที่ทำให้ใช้จริงได้โดยไม่ต้องเป็นวิศวกร

ติดตั้ง OpenJarvis ด้วยคำสั่งเดียว จบใน 3 นาที

บน macOS, Linux หรือ WSL2 (ลินุกซ์ที่รันซ้อนอยู่ใน Windows) คำสั่งติดตั้งมีบรรทัดเดียว

curl -fsSL https://open-jarvis.github.io/OpenJarvis/install.sh | bash

ส่วนบน Windows แบบไม่ผ่าน WSL2 ใช้บรรทัดนี้แทน

irm https://open-jarvis.github.io/OpenJarvis/install.ps1 | iex

ใครไม่อยากแตะหน้าจอคำสั่งเลยก็มีตัวติดตั้งแบบกดปุ่มให้โหลด ทั้งไฟล์ .exe, .dmg, .deb, .rpm และ .AppImage เวลาที่ใช้อยู่ที่ราว 3 นาทีบนอินเทอร์เน็ตความเร็วปกติ เพราะตัวติดตั้งไปจัดการของที่ต้องมีให้เองทั้งหมด ทั้งชุดเครื่องมือของภาษา Python ที่แยกกล่องไว้ไม่ให้ชนกับของเดิมในเครื่อง และ Ollama โปรแกรมสำหรับรันโมเดลภาษาบนเครื่องตัวเอง จากนั้นมันจะดาวน์โหลดโมเดลตั้งต้นมาให้เสร็จในรอบเดียว

ตรงนี้คือความหมายจริงๆ ของคำว่ารันในเครื่อง ไฟล์โมเดลถูกเก็บอยู่ในฮาร์ดดิสก์ของเรา และการคำนวณเกิดขึ้นบนชิปของเครื่องที่วางอยู่ตรงหน้า ไม่ใช่ที่ศูนย์ข้อมูลของใคร หลักการเดียวกันนี้คือสิ่งที่ทำให้การรัน RAG ในเครื่อง ตอบคำถามจากคู่มือกองใหญ่ได้โดยไม่ต้องส่งไฟล์ออกไปไหน

พอติดตั้งจบ พิมพ์ jarvis แล้วกด Enter ก็เริ่มคุยได้เลย ตอนเปิดครั้งแรกจะเป็นแชทธรรมดา ถ้าอยากเปลี่ยนหน้าที่ของมัน ก็ใช้ jarvis init --preset <name> โดย preset คือชุดค่าตั้งต้นสำเร็จรูปที่รวมเครื่องมือและวิธีทำงานไว้ให้แล้ว ตอนนี้มีให้เลือก 5 ชุด

• morning-digest สำหรับคนที่อยากได้สรุปประจำวันตอนเช้าออกมาเป็นเสียงพูด
• deep-research สำหรับงานค้นคว้าหลายขั้นตอนที่ต้องมีแหล่งอ้างอิงติดมาด้วย
• code-assistant สำหรับคนที่ต้องให้มันเขียนโค้ด รันโค้ด และแตะไฟล์ในเครื่องจริง
• scheduled-monitor สำหรับงานที่ต้องเฝ้าตามตารางเวลาและจำเรื่องเก่าได้
• chat-simple สำหรับคนที่อยากได้แค่ช่องแชทเปล่าๆ ไม่ต้องมีเครื่องมืออะไรพ่วง

มิเตอร์ที่นับอยู่ข้างคำตอบ

โปรเจกต์นี้มีแนวคิดหลักสามข้อ ข้อแรกคือชุดชิ้นส่วนกลางสำหรับประกอบเอเจนต์ที่รันบนอุปกรณ์ของเราเอง ข้อที่สองคือวิธีวัดผลที่นับพลังงาน ปริมาณการคำนวณ ความหน่วง และเงินที่จ่ายจริง เป็นเกณฑ์หลักเท่าๆ กับความแม่นยำ ข้อที่สามคือนำ trace หรือบันทึกว่าเอเจนต์ทำอะไรไปบ้างทีละขั้น มาปรับโมเดลให้ดีขึ้น โดยเก็บบันทึกเหล่านั้นไว้ในเครื่องของเราเอง

ข้อที่สองเห็นได้ด้วยตาตอนใช้งานจริง เพราะตัวเลขบนแถบข้างคำตอบเปลี่ยนไปตลอด

ความต่างตรงนี้ไม่ได้อยู่ที่ตัวเลขสวย แต่อยู่ที่สิ่งที่เราต้องจ่าย เวลาใช้ผู้ช่วยบนคลาวด์ ต้นทุนมาในรูปบิลตอนสิ้นเดือน และเราแทบไม่เห็นว่าคำถามไหนแพงหรือถูก พอย้ายมารันในเครื่อง ต้นทุนคือค่าไฟและเวลาที่เครื่องทำงานอยู่ตรงหน้า เราจึงตัดสินใจได้ทันทีว่าคุ้มกับงานตรงหน้าหรือไม่

เอเจนต์ในตัว 8 ตัว แบ่งเป็น 3 โหมด

จุดต่างสำคัญของเอเจนต์คือมันเดินงานเป็นขั้นเองได้ หยิบเครื่องมือมาใช้เองได้ และรายงานผลกลับมา ไม่ใช่ช่องแชทที่รอเราพิมพ์สั่งทีละคำสั่ง ถ้าอยากเห็นว่าเอเจนต์ตัวหนึ่งประกอบขึ้นจากอะไรบ้าง กายวิภาคของ Local AI Agent แยกชิ้นส่วนไว้ครบแล้ว ส่วน OpenJarvis มีมาให้ในกล่อง 8 ตัว แบ่งตามจังหวะที่มันทำงาน

โหมดที่ต่างจากผู้ช่วยแชทที่เราคุ้นมากที่สุดคือแบบทำงานต่อเนื่อง เพราะมันไม่ได้จบเป็นรอบๆ แต่ค้างอยู่และคอยจัดการความจำของตัวเองไปด้วย

morning digest สรุปอีเมล ปฏิทิน ข้อมูลสุขภาพ และข่าวให้ฟังตอนเช้า

ตัวที่เห็นภาพที่สุดคือ morning digest เพราะมันไม่ได้ขอให้เราไปนั่งอ่านอะไรเพิ่ม แต่รวบรวมอีเมล ปฏิทิน ข้อมูลสุขภาพ และข่าวมาทำเป็นสรุปสั้นๆ แล้วอ่านออกเสียงให้ฟัง เปิดใช้ได้ด้วยสามคำสั่ง

jarvis init --preset morning-digest-mac
jarvis connect gdrive
jarvis digest --fresh

บรรทัดกลางใช้เชื่อมบัญชี Google เพียงครั้งเดียว โดยครอบคลุมทั้ง Gmail, Calendar และ Tasks ส่วนบรรทัดสุดท้ายใช้สร้างสรุปรอบแรกและเล่นให้ฟังทันที หลังจากนั้นมันจะทำงานตามเวลาที่ตั้งไว้เอง

งานสรุปเช้าแบบนี้มีเวอร์ชันบนคลาวด์อยู่แล้ว อย่าง Gemini Daily Brief ที่สรุปบรีฟตอนเช้าจาก Gmail และ Calendar ความต่างจึงไม่ได้อยู่ที่ผลลัพธ์ปลายทาง แต่อยู่ที่ว่าเนื้อความในกล่องจดหมายเปิดอ่านกันอยู่บนเครื่องไหน

เพิ่มสกิลจากคลังกลางได้เป็นหมื่นตัว

สกิลคือชุดคำแนะนำที่บอกเอเจนต์ว่าเครื่องมือชิ้นหนึ่งใช้ตอนไหนและใช้ยังไงให้ถูก ทุกสกิลจึงนับเป็นเครื่องมือหนึ่งชิ้นที่เอเจนต์ไปหยิบมาจากแคตตาล็อกได้เองเมื่อเจองานที่ตรงกัน ติดตั้งเพิ่มด้วยคำสั่ง jarvis skill install และเมื่อใช้ไปสักพัก คำสั่ง jarvis optimize skills จะเอาบันทึกการทำงานที่สะสมไว้มาปรับสกิลให้เข้ากับงานจริงของเรามากขึ้น

ของที่ต่อเข้ามาได้ไม่ได้มีแค่ที่โปรเจกต์เขียนเอง เพราะสกิลเดินตามมาตรฐานเปิด agentskills.io จึงดึงจากคลังข้างนอกได้ด้วย ทั้งชุดราว 150 ตัวจากโปรเจกต์ Hermes Agent และคลังของชุมชนอีกราว 13,700 ตัว

ตัวเลขหมื่นกว่าตัวฟังดูน่าตื่นเต้น แต่ของแบบนี้ไม่ได้ยิ่งเยอะยิ่งดี เพราะทุกสกิลที่ติดตั้งไว้จะกลายเป็นเครื่องมืออีกชิ้นที่เอเจนต์ต้องเลือกตอนตัดสินใจ การเริ่มจากไม่กี่ตัวที่ใช้จริงทุกวัน แล้วค่อยเติมตอนเจองานที่มันทำไม่ได้ จึงคุมผลลัพธ์ได้ง่ายกว่ากวาดมาทั้งคลังตั้งแต่วันแรก

ยังไม่ใช่ของที่พร้อมแทนคลาวด์ทั้งหมด

โปรเจกต์นี้ใช้สัญญาอนุญาต Apache-2.0 แปลว่าเอาโค้ดไปใช้และแก้ต่อในงานของตัวเองได้ ส่วนเป้าหมายที่ทีมประกาศไว้คือให้มันเป็นทั้งฐานสำหรับงานวิจัย และฐานสำหรับของที่เอาไปใช้จริง ในแบบเดียวกับที่เครื่องมือพัฒนา AI อย่าง PyTorch เป็นฐานให้งานสร้างโมเดลของทั้งวงการ AI มาก่อนแล้ว

เป้าหมายระดับนั้นแปลอีกทีว่าของยังอยู่ในช่วงตั้งไข่ และคลาวด์ก็ยังเป็นส่วนหนึ่งของระบบ ตัวโครงสร้างเองก็ออกแบบมาให้เรียกคลาวด์ได้เมื่อจำเป็น เพราะงานที่ยาวและซับซ้อนกว่าการถามครั้งเดียวจบเป็นส่วนที่ตัวเลข 88.7% ไม่ได้ครอบคลุมตั้งแต่แรก สิ่งที่เปลี่ยนไปคือลำดับการทำงาน จากที่ทุกอย่างออกนอกเครื่องโดยอัตโนมัติ กลายเป็นออกเฉพาะเท่าที่จำเป็น

แต่ก็ต้องแลกกับการที่เครื่องในบ้านรับภาระการคำนวณเอง และคนที่ติดตั้งต้องดูแลของในเครื่องตัวเองต่อ ระบบจะไม่อัปเดตให้เองอยู่เบื้องหลังเหมือนบริการบนคลาวด์ แต่สิ่งที่ได้กลับมาคือการรู้แน่ๆ ว่าข้อมูลของเราถูกเปิดอ่านบนเครื่องไหน ซึ่งเป็นคำตอบที่บริการบนคลาวด์ให้ในแบบเดียวกันไม่ได้

ของแบบนี้ไม่ต้องรอเครื่องรุ่นหน้า ตัวเลข 88.7% กับ 5.3 เท่าเป็นสิ่งที่เกิดขึ้นไปแล้วระหว่างปี 2023 ถึง 2025 ส่วนที่เหลือคือการตั้งค่าตั้งต้นใหม่ในหัวของเราเอง ว่าข้อมูลชิ้นไหนไม่ควรออกจากเครื่องตั้งแต่แรก และงานประจำวันงานไหนที่ย้ายกลับมารันบนเครื่องตัวเองได้แล้ววันนี้

ที่มา: โปรเจกต์ OpenJarvis บน GitHub