งานวิจัยนี้ตั้งคำถามว่า 'ข้อมูลที่มนุษย์อ่านออก' จำเป็นสำหรับการ Fine-tune โมเดลภาษาขนาดใหญ่จริงหรือไม่ โดยได้นำเสนอเทคนิค Desired-Update-Aligned Synthetic Data (DASA) ซึ่งเป็นการสร้างข้อมูลสังเคราะห์ในรูปแบบของ Continuous Input Embeddings แทนการใช้ข้อความแบบดั้งเดิม โดยใช้การตอบสนองจาก Activation-gradient ของโมเดลอ้างอิงมาช่วยในการปรับแต่งค่า
จากการทดสอบกับโมเดลตระกูล Llama และ Qwen ในหลายขนาด (1B ถึง 32B) พบว่า DASA ให้ประสิทธิภาพเทียบเท่าหรือดีกว่าการใช้ข้อมูลภาษาธรรมชาติในหลายการทดสอบ ทั้งในด้านความรู้ทั่วไป คณิตศาสตร์ และการเขียนโปรแกรม โดยจุดเด่นสำคัญคือความเร็วในการประมวลผลที่เร็วกว่าวิธี GRADMM เดิมถึง 3.6-4.9 เท่า ในขณะที่ใช้หน่วยความจำ GPU ในระดับใกล้เคียงกัน
