Nemotron Bolt สรุปแชตกลุ่ม LINE เป็น Meeting Notes จริงไหม

กลุ่ม LINE ที่คุยงานกันทั้งวัน พอกลับมาเปิดอีกทีมีเป็นร้อยข้อความ คำถามที่ผมอยากรู้มีแค่ว่า สรุปแล้วตกลงอะไรกัน ใครต้องทำอะไร และอะไรที่ยังไม่จบ

พอเห็น NVIDIA ปล่อย Nemotron 3.5 Bolt E4B ซึ่งเป็นโมเดลเล็กที่โฆษณาว่าตอบไว ผมเลยลองเอามารันบน GB10 ที่บ้าน เพื่อดูว่ามันจะมาเป็นผู้ช่วยด่านหน้าให้ Hermes ซึ่งเป็น personal agent ของผม ได้หรือเปล่า

ลองรันแบบแยก ไม่ยุ่งกับโมเดลหลัก

ผมใช้ไฟล์ GGUF Q4 รุ่นทางการ แล้วรันแยกออกมา โดยไม่ไปแตะ Gemma กับ Qwen ที่ใช้งานอยู่ มีเรื่องเล็ก ๆ ที่เจอคือ ชื่อรุ่นมีคำว่า “4GB” แต่ไฟล์ที่ดาวน์โหลดมาจริงขนาด 6.18 GB

เทสต์ทั่วไปก่อน

ตอบภาษาไทยเร็วประมาณ 63 tokens/วินาที (เป็นค่า median จากการรัน 3 รอบ)
เรียก tool ได้ถูกทั้งชื่อและ argument 5/5 ครั้ง และรับผลจาก tool มาตอบต่อได้
งาน JSON และงานหาข้อมูลจากบริบทยาวประมาณ 6 พัน tokens ผ่าน
รวมแล้วผ่าน 14/15 เคส เคสที่พลาดคือมันตอบถูกว่าใน dashboard ไม่มีปุ่ม Backup แต่ไม่ได้บอกต่อว่าสำรองข้อมูลผ่าน CLI ได้ ทั้งที่ในข้อมูลมีบอกไว้ ถือว่าตอบไม่ครบ แต่ไม่ได้แต่งข้อมูลขึ้นมาเอง

แล้วงานสรุปแชตล่ะ

อันนี้คือ use case ที่ผมอยากได้จริง ๆ ผมกำหนดให้มันสรุปออกมาเป็น 3 ส่วน คือข้อสรุป งานที่ต้องทำพร้อมคนรับผิดชอบและกำหนดส่ง และเรื่องที่ยังไม่ตกลง โดยตั้งกฎไว้ว่าถ้าแชตไม่ได้บอกชื่อหรือวันไว้ ห้ามเดาเอาเอง

รอบแรกผมลองกับแชตประชุม 5 แบบ อ่านแล้วถูกทั้งหมด เลยยังไม่วางใจ ขยายเป็นแชตแบบกลุ่ม LINE 100 แชต จาก 10 สถานการณ์ สถานการณ์ละ 10 แบบ เช่น เปลี่ยนคนรับงาน ถามเรื่องโอนเงินที่ยังไม่อนุมัติ หรือยกเลิกงานเดิม (เป็นแชตที่สร้างขึ้นมาทั้งหมด ไม่ใช่แชตจริงของใคร)

ผลที่ดีคือ มันตอบเป็น JSON ที่อ่านได้ทั้ง 100 แชต ตอบเร็วประมาณ 1.2 วินาที และสรุปงาน คนรับผิดชอบ กับวันส่งได้ถูก 92 จาก 100

แต่ก็มีเรื่องที่ทำให้ผมยังไม่กล้าปล่อยให้มันส่งสรุปเอง ในแชตที่หัวหน้าบอกว่าห้ามโอนเงิน มันไม่ได้เขียนคำว่าห้ามโอนลงในสรุปเลยสักแชต ถึงจะไม่ได้สร้างงานให้ไปโอนก็ตาม พองานไหนถูกยกเลิก มันก็ไม่ได้บอกว่ายกเลิก และในเคสที่เปลี่ยนคนรับงาน มีครึ่งหนึ่งที่มันเพิ่มงาน “รีวิว” ขึ้นมาเองทั้งที่ในแชตไม่มี

ถ้าตรวจแบบเข้มทุกช่องจะผ่านแค่ 22 จาก 100 ซึ่งส่วนใหญ่ตกเพราะเอาเรื่องไปใส่ผิดหมวด ความหมายไม่ได้ผิด แต่ข้อห้ามกับการยกเลิกเป็นเรื่องที่พลาดไม่ได้จริง ๆ

ที่ผมว่าน่าสนใจคือ จุดที่พลาดเป็นแพทเทิร์นชัดมาก ไม่ได้พลาดมั่ว ๆ ถ้าเอาเคสแบบนี้ไป fine-tune ต่อ ผมเชื่อว่ามันน่าจะดีขึ้นกว่าเดิมได้อีกเยอะ สำหรับโมเดลขนาดนี้ถือว่ามี potential มากครับ

💡 Tip: ถ้าจะลองเอง ให้ทำ checklist ด้วยว่าคำตอบต้องมีอะไร และห้ามมีอะไร แล้วอย่าเชื่อคะแนนอัตโนมัติร้อยเปอร์เซ็นต์ ควรอ่านคำตอบเองด้วยสักรอบ

สิ่งที่ผมคิดจริง ๆ

สำหรับเครื่องผม Bolt เหมาะเป็นผู้ช่วยด่านหน้าที่ตอบไว มากกว่าจะมาเป็นสมองหลัก งานที่ผมจะลองให้มันทำคือ

สรุปแชตกลุ่มให้เป็น meeting notes, to-do และ next action แบบร่างแรก โดยข้อห้ามกับงานที่ยกเลิกต้องให้คนหรือโมเดลใหญ่ตรวจซ้ำก่อนส่งเข้ากลุ่ม
ตอบคำถามสั้น ๆ และเรียก tool ที่อ่านข้อมูลได้อย่างเดียว
ร่างคำตอบเบื้องต้นไว้ก่อน แล้วถ้างานซับซ้อนค่อยส่งให้ Gemma หรือ Qwen ตรวจต่อ

ส่วนงานที่ผมยังไม่ให้มันทำ คือคุม Hermes แทน Qwen ทำรายงานยาวที่ต้องเก็บรายละเอียดให้ครบ และทุกอย่างที่เกี่ยวกับการลบข้อมูล จ่ายเงิน หรือเทรด เพราะเทสต์แรกก็เห็นแล้วว่ามันมีโอกาสตกหล่นขั้นตอนสำคัญ

และถึงสรุปจะดีแค่ไหน ผมก็ยังอยากให้คนอ่านตรวจก่อนส่งเข้ากลุ่ม ไม่ให้บอตโพสต์เองอัตโนมัติครับ

ใครมีกลุ่ม LINE ที่อยากให้ AI ช่วยสรุปบ้าง เล่าให้ฟังหน่อยครับว่าปกติสรุปกันยังไง

ที่มา: NVIDIA AI บน X · โมเดลบน Hugging Face · แชตที่ใช้ทดสอบทั้งหมดเป็นข้อมูลที่สร้างขึ้นมา ไม่ใช่แชตจริง

อ่านต่อ: LINE Letter Sealing ช่องโหว่ E2EE · รัน Local LLM บน Mac · Nim AI Pet บน ESP32-S3