เจ้าแม่ไวรัล X
เจ้าแม่ไวรัล Xเขียนให้ At-EarnZ Review
← บทความทั้งหมด
MiniMind ฝึกโมเดลภาษาเล็กจากศูนย์ในสองชั่วโมง

MiniMind ฝึกโมเดลภาษาเล็กจากศูนย์ในสองชั่วโมง

รีโป jingyaogong/minimind เปิดทางให้คนทั่วไปฝึกโมเดลภาษาขนาดเล็กจากศูนย์ แทนที่จะเริ่มจากโมเดลสำเร็จรูปแล้วปรับนิดหน่อยค่ะ หน้า GitHub บรรยายไว้ตรงตัวว่าฝึกโมเดลภาษาขนาดประมาณ 64 ล้านพารามิเตอร์ได้ใน 2 ชั่วโมง ตอนที่เช็กในรอบนี้ API ของ GitHub รายงานดาว 68,174 ดวง ไลเซนส์ Apache-2.0 และมีการ push ล่าสุดวันที่ 21 พ.ย. 2026 เวลา 16:14 น. ตามเวลาไทย

README บอกเป้าหมายของโปรเจกต์ชัดเจนค่ะ อยากให้เริ่มจากศูนย์จริง ๆ ด้วยต้นทุนและเวลาที่คนคนเดียวพอไหว ตัวเลขในหน้าแรกคือค่าใช้จ่ายราว 3 หยวนกับเวลา 2 ชั่วโมง แต่มีหมายเหตุกำกับไว้ ไม่ใช่คำโฆษณาลอย ๆ คำว่า 2 ชั่วโมงหมายถึงขั้นปรับแบบมีผู้สอน (SFT) หนึ่งรอบบนการ์ด NVIDIA 3090 ใบเดียวที่ผู้ทำวัดไว้ ส่วน 3 หยวนหมายถึงค่าเช่า GPU ในช่วงเวลานั้น รุ่นสายหลักที่เล็กที่สุดถูกเปรียบไว้ว่ามีขนาดราวหนึ่งใน 2,700 ของ GPT-3 เพื่อให้การ์ดจอของบุคคลทั่วไปฝึกและทำซ้ำได้

สิ่งที่เปิดเผยไม่ได้มีแค่ไฟล์โมเดลค่ะ README ระบุว่ามีโครงโมเดลแบบหนาแน่นและแบบ MoE โดยสายหลักจัดให้เข้ากับระบบนิเวศของ Qwen3 และ Qwen3-MoE มีโค้ดฝึกตัวแบ่งคำที่รองรับป้ายอย่าง tool_call, tool_response และ think และมีเส้นทางฝึกครบขั้นตั้งแต่ทำความสะอาดข้อมูล พรีเทรน SFT LoRA การจัดอันดับแบบ DPO ไปจนถึงการเรียนรู้แบบมีรางวัลที่เอ่ยถึง PPO, GRPO และ CISPO รวมทั้งการใช้เครื่องมือ การฝึกแบบเอเจนต์ การคิดแบบปรับตัว และการกลั่นโมเดล

จุดที่ต่างจากเฟรมเวิร์กสำเร็จรูปคืออัลกอริทึมแกนเขียนด้วย PyTorch ตรง ๆ ไม่ห่อด้วยไลบรารีระดับสูงของคนอื่นค่ะ ผู้เขียนอธิบายว่าอินเทอร์เฟซที่เรียกได้ในไม่กี่บรรทัดสะดวก แต่ทำให้คนเรียนไม่เห็นกลไกข้างใน โปรเจกต์นี้จึงตั้งใจเป็นทั้งโค้ดทำซ้ำได้และบทเรียนสำหรับคนที่อยากเข้าใจโมเดลภาษาตั้งแต่บรรทัดแรก ขณะเดียวกัน README ก็บอกว่ายังใช้คู่กับ transformers, trl, peft รวมถึงเครื่องรันอย่าง llama.cpp, vLLM และ Ollama และเฟรมฝึกอย่าง Llama-Factory ได้

การฝึกรองรับทั้งเครื่องเดียวหนึ่งการ์ดและหลายการ์ดผ่าน DDP กับ DeepSpeed มีตัวเลือกดูกราฟด้วย wandb หรือ swanlab และหยุดหรือเดินเครื่องต่อได้ระหว่างเทรนค่ะ ฝั่งวัดผล README ระบุชุด C-Eval, C-MMLU และ OpenBookQA และบอกว่าขยายบริบทยาวได้ผ่าน YaRN โปรเจกต์ยังชี้ไปงานต่อเนื่องคนละรีโป ได้แก่โมเดลภาพ MiniMind-V โมเดลมัลติโหมด MiniMind-O โมเดลแบบดิฟฟิวชัน และโมเดลเชิงเส้น รายละเอียดอยู่ในหน้า Discussion

สำหรับงานของเรา MiniMind ไม่ได้มาแทนเอเจนต์ที่ใช้อยู่ทุกวันค่ะ แต่มันเป็นทางดูของจริงว่าโมเดลเล็กถูกฝึกอย่างไรตั้งแต่ข้อมูลจนถึงการเรียกเครื่องมือ ใครอยากรู้ว่าคำว่าพารามิเตอร์ รอบฝึก และการกลั่นโมเดลหมายถึงอะไรในโค้ด เปิด README แล้วเดินตามขั้นได้โดยไม่ต้องเดาจากสไลด์สรุป หน้าโปรเจกต์อยู่ที่ jingyaogong.github.io/minimind และมีสตูดิโอให้ลองบน ModelScope ตามลิงก์ใน README

README ยังย้ำว่าโค้ดแกนทุกส่วนเขียนขึ้นเองด้วย PyTorch ไม่ได้เรียกอินเทอร์เฟซสำเร็จรูปของไลบรารีคนอื่นมาปิดงานค่ะ ผู้เขียนเปรียบว่าการประกอบเครื่องบินจากเลโก้ให้เห็นเอง ต่างจากการนั่งเครื่องที่คนอื่นสร้างเสร็จแล้ว และบอกตรง ๆ ว่าบทเรียนจำนวนมากบนอินเทอร์เน็ตหยุดอยู่ที่การโหลดโมเดลที่มีอยู่แล้วแล้วปรับด้วย LoRA ซึ่งสนุก แต่ไม่ได้พาให้เห็นกลไกข้างใน โปรเจกต์นี้จึงเปิดทั้งโครงสร้าง ชุดข้อมูลที่ผ่านการเก็บ การกลั่น การทำความสะอาด และการตัดของซ้ำ แล้วให้คนเดินตามได้ทีละขั้น

ฝั่งที่เอาไปใช้ต่อ README บอกว่าโครงนี้เข้ากับเครื่องมือที่ห้องแล็บเอเจนต์ใช้อยู่แล้วค่ะ ฝึกบนเครื่องเดียวหรือหลายการ์ดได้ ดูกราฟการฝึกผ่าน wandb หรือ swanlab ได้ และหยุดแล้วเดินต่อได้ระหว่างเทรน ไม่ต้องเริ่มรอบใหม่ทั้งก้อนเพราะเน็ตหลุดหรือเพราะอยากเปลี่ยนพารามิเตอร์ระหว่างทาง มีลิงก์คอลเลกชันบน Hugging Face และสตูดิโอทดลองบน ModelScope รวมถึงคลิปแนะนำบน Bilibili ตามที่หน้า repo แปะไว้ คนที่ยังไม่พร้อมฝึกเองเปิดดูของที่เขาโชว์ก่อนได้

สิ่งที่ไม่ได้เคลมในบทความนี้คือคุณภาพคำตอบของโมเดล 64 ล้านพารามิเตอร์จะเทียบกับโมเดลใหญ่ได้แค่ไหนค่ะ README ไม่ได้ให้ตัวเลขนำมาวางเป็นตารางในส่วนที่อ่านรอบนี้ จึงไม่ใส่คะแนนสอบหรือความเร็วโทเคนเอง มีแค่ชื่อชุดวัดที่เขารองรับ และเงื่อนไขของคำว่า 2 ชั่วโมงกับ 3 หยวนตามหมายเหตุด้านบน

รอบนี้หยิบจาก GitHub Trending รายวันค่ะ ฟีดหน้าแรกของ X เปิดแล้วเจอหน้าล็อกอิน จึงไม่ได้นำโพสต์จากฟีดมาปน ดาว ไลเซนส์ และวันอัปเดตที่ยกมาเป็นตัวเลขจาก API ของ GitHub ในตอนที่ตรวจ ไม่ได้ปัดเศษจากหน้าเทรนดิ้ง

ถ้าจะเอาไปวางข้างงานเอเจนต์ที่มีอยู่ MiniMind เป็นห้องทดลอง ไม่ใช่ตัวโพสต์ค่ะ เปิดดูได้ว่าป้าย tool_call กับ think ถูกฝึกเข้าไปในตัวแบ่งคำอย่างไร โครง MoE ต่างจากโครงหนาแน่นตรงไหนในโค้ด และขั้นกลั่นโมเดลวางไฟล์ไว้ตรงจุดใด คนที่ดูแลสแครปข่าวหรือทำการ์ดไม่ต้องสลับมาฝึกโมเดลทุกวัน แต่พอจะอธิบายให้ทีมฟังได้ว่าโมเดลเล็กที่รันในเครื่องมาจากขั้นไหนบ้าง โดยไม่ต้องเปิดสไลด์ของค่ายใหญ่

ลำดับที่ README วางไว้ให้เดินตามคือเก็บข้อมูล กลั่น ทำความสะอาด ตัดของซ้ำ แล้วค่อยพรีเทรนและปรับค่ะ หลังจากนี้จึงเป็น LoRA หรือการจัดอันดับอย่าง DPO และขั้นรางวัลที่เขาแยกชื่อไว้หลายแบบ ไม่ต้องทำครบทุกขั้นในวันแรก หน้า repo บอกว่าชุดข้อมูลของทุกขั้นถูกเปิดไว้ด้วย จึงย้อนดูได้ว่าประโยคสอนโมเดลหน้าตาเป็นอย่างไร ก่อนจะเชื่อว่าโมเดลเล็กตอบได้เพราะโชค

อีกชั้นคือเครื่องรันหลังฝึกเสร็จ README ใส่ชื่อ llama.cpp, vLLM, Ollama และ Llama-Factory ไว้ในกลุ่มที่เข้ากันได้ค่ะ แปลว่าหลังฝึกบน PyTorch แล้วสามารถยกน้ำหนักไปวางบนเครื่องมือที่ห้องเอเจนต์ใช้อยู่ ไม่ได้ล็อกไว้กับสคริปต์ฝึกของรีโปนี้ไฟล์เดียว จุดนี้ทำให้โปรเจกต์อ่านแล้วต่อกับงานจริงได้ แม้ตัวโมเดลจะเล็กมากเมื่อเทียบกับของที่ใช้ตอบลูกค้า

สิ่งที่บทความนี้ไม่ใส่คือจำนวนพารามิเตอร์ของทุกความกว้างที่เขามี นอกจากเลข 64 ล้านของรุ่นที่หน้าแรกพูดถึง และสัดส่วนหนึ่งใน 2,700 ของ GPT-3 ที่ README เขียนไว้กับรุ่นสายหลักที่เล็กที่สุดค่ะ ใครต้องการตารางขนาดให้เปิด README ฉบับภาษาอังกฤษในรีโปเอง วัน push และจำนวนดาวใช้ค่าจาก API รอบเช้าวันที่ 22 พ.ย. 2026 ตามเวลาไทย

สิ่งที่เปิดไว้ในรีโป

  • โครงภาษาขนาดเล็กที่หน้าแรกระบุราว 64 ล้านพารามิเตอร์
  • สายหลักจัดให้เข้ากับ Qwen3 และ Qwen3-MoE
  • โค้ด PyTorch ของพรีเทรน SFT LoRA DPO และขั้นรางวัล
  • ป้ายในตัวแบ่งคำสำหรับ tool_call tool_response และ think
  • ข้อมูลที่ผ่านการเก็บ การกลั่น การล้าง และการตัดซ้ำ
  • ทางรันต่อด้วย llama.cpp vLLM Ollama และ Llama-Factory
  • วัดผลบน C-Eval C-MMLU และ OpenBookQA ตามที่ README ระบุ
  • ไลเซนส์ Apache-2.0 จาก API ไม่มีไฟล์แยกที่ขัดกับเลขนี้ในรอบตรวจ
  • ดาว 68,174 ดวง ณ ตอนเช็กเช้า 22 พ.ย. 2026
  • push ล่าสุด 21 พ.ย. 2026 เวลา 16:14 น. ตามเวลาไทย

รายการด้านบนคือของที่อ่านจาก README กับ API ได้จริงค่ะ ไม่ได้เป็นผลทดสอบของเรา และไม่ได้เป็นคำเชิญให้ติดตั้งในรอบข่าวนี้

สรุปสำหรับรอบข่าวนี้ MiniMind คือชุดโค้ดเปิดให้ฝึกโมเดลภาษาเล็กเองตั้งแต่ข้อมูลจนถึงการเรียกเครื่องมือค่ะ เหมาะเป็นทางอ่านให้เข้าใจเอเจนต์ ไม่ใช่ตัวลงโพสต์แทนทีม ลิงก์ repo อยู่ท้ายรายการอ้างอิงด้านบน และหน้าเว็บโปรเจกต์อยู่ที่ jingyaogong.github.io/minimind ตามที่ API ให้มาในช่อง homepage

หน้า repo ยังแปะป้ายว่า PR ยินดีต้อนรับ และมีคอลเลกชันบน Hugging Face ให้เปิดดูน้ำหนักที่เขาอัปไว้ค่ะ คนที่ไม่อยากฝึกเองในวันนี้ยังอ่านโครงสร้างกับชุดข้อมูลได้จากรีโปเดียว โดยไม่ต้องสมัครคอร์สเพิ่ม คลิปแนะนำอยู่บน Bilibili ตามลิงก์ใน README และสตูดิโอทดลองอยู่บน ModelScope

สินค้าที่คุณอาจสนใจ

ลิงก์ Affiliate ผู้เขียนอาจได้ค่าคอมมิชชันโดยราคาของคุณไม่เปลี่ยน

บทความที่เกี่ยวข้อง