Google DeepMind เปิดตัวโมเดล Gemma 4 12B ซึ่งเป็นโมเดลภาษาขนาดกลางที่ออกแบบมาเพื่อลดช่องว่างระหว่างรุ่น E4B ที่เน้นอุปกรณ์พกพาและรุ่น 26B MoE ที่มีประสิทธิภาพสูง จุดเด่นสำคัญคือการใช้สถาปัตยกรรมแบบ Unified และ Encoder-free ซึ่งแตกต่างจากโมเดลทั่วไปที่ต้องมีตัวเข้ารหัสแยกสำหรับภาพและเสียง แต่โมเดลนี้จะส่งข้อมูลเข้าสู่ LLM Backbone โดยตรง ช่วยลดภาระหน่วยความจำและความหน่วงในการประมวลผล
โมเดลรุ่นนี้รองรับการรับข้อมูลเสียงแบบ Native เป็นครั้งแรกในขนาดกลาง และมีความสามารถในการให้เหตุผลระดับสูงใกล้เคียงกับรุ่น 26B นอกจากนี้ยังมาพร้อมเทคโนโลยี Multi-Token Prediction (MTP) เพื่อช่วยให้การสร้างข้อความรวดเร็วยิ่งขึ้น โดยเปิดให้ใช้งานภายใต้สัญญาอนุญาตแบบ Apache 2.0 ทำให้นักพัฒนาสามารถนำไปปรับใช้ในแอปพลิเคชันต่างๆ ได้อย่างกว้างขวาง