ในโมเดลสถาปัตยกรรม Mixture-of-Experts (MoE) การเข้าใจความสำคัญของแต่ละเลเยอร์เป็นกุญแจสำคัญในการบีบอัดโมเดล งานวิจัยนี้ทำการวิเคราะห์เชิงลึกกับโมเดล Qwen3.6-35B-A3B (40 เลเยอร์, 256 Experts) โดยใช้เทคนิคการปิดกั้นผู้เชี่ยวชาญตามขนาด (Magnitude-based Expert Masking)
ผลการทดสอบพบว่าเลเยอร์ในระดับต้นและระดับกลาง (0-29) มีความเปราะบางสูงมากต่อการปิดกั้น ในขณะที่เลเยอร์ระดับท้ายๆ โดยเฉพาะตั้งแต่เลเยอร์ 35-39 สามารถทนต่อการปิดกั้นผู้เชี่ยวชาญที่มีความสำคัญต่ำได้เป็นจำนวนมาก โดยยังคงรักษาคุณภาพของคำตอบไว้ได้สูง ซึ่งการปิดกั้นในลักษณะนี้ช่วยลดการใช้ทรัพยากรประมวลผล (Compute) และเป็นแนวทางสู่การผ่าตัดโมเดล (Weight Surgery) เพื่อการใช้งานที่มีประสิทธิภาพสูงสุด
