AI & MACHINE LEARNING

OpenEvoShield: ระบบป้องกันเชิงรุกสำหรับการโจมตีในระบบ AI หลายเอเจนต์

arXiv23 Jul 2026
1 min read
Key Takeaways
  • OpenEvoShield ช่วยให้ระบบ AI เอเจนต์สามารถเรียนรู้และปรับตัวเพื่อป้องกันภัยคุกคามใหม่ๆ ได้อย่างต่อเนื่องโดยไม่สูญเสียความสามารถเดิม

ทำไมเรื่องนี้ถึงสำคัญ

ในขณะที่การใช้ AI เอเจนต์ทำงานร่วมกันเริ่มแพร่หลาย ความมั่นคงปลอดภัยของระบบสื่อสารระหว่างเอเจนต์จึงเป็นเรื่องสำคัญ เพื่อป้องกันความเสียหายที่อาจลุกลามไปทั่วทั้งเครือข่าย

ระบบ Multi-Agent ที่ทำงานร่วมกันด้วย LLM มักเสี่ยงต่อการถูกแทรกแซงคำสั่งที่อันตรายผ่านการสื่อสารระหว่างเอเจนต์ งานวิจัยนี้พบว่าการป้องกันแบบเดิมมักล้มเหลวเมื่อผู้โจมตีเปลี่ยนกลยุทธ์ หรือระบบมีการขยายตัวขึ้น (Open-World) จึงได้นำเสนอ OpenEvoShield ซึ่งเป็นเฟรมเวิร์กการป้องกันแบบ Co-evolutionary

ระบบนี้ประกอบด้วยส่วนประกอบหลัก เช่น ตัวควบคุมอัตราการเรียนรู้แบบอสมมาตร (M1) เพื่อแยกแยะความเร็วของการเปลี่ยนแปลงระหว่างการโจมตีและการใช้งานปกติ รวมถึงเครื่องมือตรวจจับแบบ Energy-based (M4) ที่วิเคราะห์ข้อมูลในหลายระดับ ตั้งแต่โหนดไปจนถึงกราฟความสัมพันธ์ ผลการทดสอบผ่าน 100 รอบการใช้งานจริงพบว่า OpenEvoShield สามารถตรวจจับการโจมตีรูปแบบใหม่ที่ยังไม่เคยพบมาก่อนได้อย่างแม่นยำและมีอัตราการเตือนผิดพลาด (False Positive) ที่ต่ำมาก

สรุปประเด็นหลัก

ใช้กลไกการปรับตัวแบบ Dual Non-Stationary เพื่อรับมือทั้งฝ่ายรุกและฝ่ายรับ

ตรวจจับการโจมตีระดับกราฟ (Node, Subgraph, Graph) เพื่อความแม่นยำสูงสุด

ผ่านการทดสอบครอบคลุมหลายสถานการณ์และโครงสร้างระบบที่แตกต่างกัน

นวัตกรรมและเทคโนโลยี

security

Co-evolutionary Continual Defense

ระบบป้องกันที่ปรับปรุงตัวเองได้อย่างต่อเนื่องตามพฤติกรรมการโจมตีที่เปลี่ยนไป

platform

Multi-granularity Detector

เครื่องมือตรวจจับที่ผสานหลักฐานจากหลายระดับเพื่อระบุการโจมตีที่ไม่เคยเห็นมาก่อน

Developer Impact
ทีมวิศวกรที่สร้างระบบเอเจนต์ทำงานร่วมกันสามารถนำแนวคิดการป้องกันแบบโครงสร้างกราฟไปปรับใช้เพื่อเพิ่มความปลอดภัยให้ระบบได้
Keywords
#multi-agent system #llm security #continual learning #adversarial defense
Original Source

อ่านข้อมูลเพิ่มเติมจากแหล่งข่าวหลัก

arXiv