AI & MACHINE LEARNING

CALM: เทคนิคใหม่เพื่อความปลอดภัยในโมเดลสร้างภาพโดยไม่กระทบคุณภาพของภาพทั่วไป

arXiv05 Oct 2026
1 min read
Key Takeaways
  • CALM ปรับแต่งเฉพาะจุดที่อันตรายในคำสั่งสร้างภาพแทนการกำจัดสัญญาณความเสี่ยงแบบครอบคลุม ทำให้ได้ภาพที่ปลอดภัยและคงคุณภาพเดิมไว้ได้มากที่สุด

ทำไมเรื่องนี้ถึงสำคัญ

ช่วยแก้ปัญหาความขัดแย้งระหว่างความปลอดภัยและความมีประโยชน์ของโมเดล AI ทำให้ผู้ให้บริการสามารถคัดกรองเนื้อหาที่ไม่เหมาะสมได้แม่นยำขึ้นโดยไม่ลดทอนประสบการณ์การใช้งานของผู้ใช้ทั่วไป

งานวิจัยพบว่าระบบป้องกันความปลอดภัยของโมเดลสร้างภาพในปัจจุบันมักประสบปัญหา 'Coverage-Selectivity Trade-off' คือหากใช้การตัดสัญญาณที่กว้างเกินไปจะทำให้ภาพที่ไม่เป็นอันตรายเสียหาย แต่ถ้าใช้สัญญาณที่แคบเกินไปก็จะไม่ครอบคลุมเนื้อหาที่ไม่เหมาะสมที่มีความหลากหลาย จึงได้นำเสนอ CALM (Counterfactual Adaptive Local Modulation) ซึ่งเป็นแนวทางใหม่ที่ไม่ต้องผ่านการฝึกฝนโมเดลใหม่

CALM ทำงานโดยการวิเคราะห์คำสั่ง (Prompt) และค้นหาเฉพาะส่วนที่ละเมิดข้อกำหนดความปลอดภัย จากนั้นจะปรับแต่งเฉพาะตัวแทนของโทเค็น (Token representations) เหล่านั้นให้เข้าสู่ด้านที่ปลอดภัย โดยใช้เทคนิค Counterfactual Correction และระงับองค์ประกอบที่เกี่ยวข้องกับความไม่ปลอดภัยโดยไม่กระทบส่วนอื่นๆ ของภาพ จากการทดสอบพบว่า CALM สามารถระงับเนื้อหาที่ไม่เหมาะสมได้ดีกว่าเดิมในขณะที่ยังคงคุณภาพและความถูกต้องของภาพทั่วไปไว้ได้อย่างยอดเยี่ยม

สรุปประเด็นหลัก

ใช้แนวทาง Prompt-local counterfactual correction แทนการลบสัญญาณความไม่ปลอดภัยแบบ Global

ไม่ต้องฝึกฝนโมเดลใหม่ (Training-free) ทำให้ประหยัดทรัพยากรและนำไปใช้ได้ทันที

เพิ่มประสิทธิภาพการระงับเนื้อหาอันตรายในขณะที่ยังรักษาคุณภาพของคำสั่งทั่วไป (Benign prompts)

นวัตกรรมและเทคโนโลยี

creative ai

Counterfactual Adaptive Local Modulation (CALM)

กลไกการแก้ไขเฉพาะจุดที่ช่วยให้โมเดลรักษาสมดุลระหว่างความปลอดภัยและความแม่นยำของภาพตามคำสั่ง

Developer Impact
วิศวกรที่ดูแลโมเดล Text-to-Image สามารถนำ CALM ไปใช้เป็นชั้นป้องกันความปลอดภัย (Safety Layer) ได้โดยไม่ต้อง Re-train โมเดลใหม่ ช่วยลดต้นทุนและเวลาในการควบคุมเนื้อหา
Keywords
#text-to-image #ai safety #calm #diffusion models #content moderation
Original Source

อ่านข้อมูลเพิ่มเติมจากแหล่งข่าวหลัก

arXiv