ปัญหาหนึ่งของการรัน LLM ในสเกลใหญ่คือ ผลลัพธ์ของคำสั่งเดิมอาจเปลี่ยนแปลงไปเล็กน้อยขึ้นอยู่กับว่ามันถูกรันพร้อมกับคำสั่งของคนอื่นใน Batch เดียวกันหรือไม่ ซึ่งเป็นอุปสรรคต่อการนำไปใช้ในงานที่ต้องการความแม่นยำสูง BlockLock ได้รับการพัฒนาขึ้นเพื่อแก้ปัญหานี้โดยใช้เทคนิค 'Fixed Batch Geometry'
ระบบนี้มี 2 โหมดหลัก คือ BlockLock-Rows ที่รักษารูปแบบแถวให้คงที่ และ BlockLock-Pack ที่แยกส่วนประมวลผลที่ต้องการความแม่นยำออกมา ซึ่งทั้งสองโหมดสามารถรักษาระดับ Bitwise Reproducibility ได้สมบูรณ์ ผลการทดสอบกับโมเดลตระกูล Llama และ Qwen บน GPU NVIDIA ตระกูล A100 และ H100 พบว่า BlockLock ช่วยลด Latency ได้ 53.5-55.0% และเพิ่ม Throughput ได้ถึง 115.2-122.2% เมื่อเทียบกับวิธีการ Batch-Invariant แบบเดิมที่ใช้ในระบบอย่าง vLLM
