Google DeepMind เปิดตัว AI Control Roadmap ซึ่งเป็นกรอบการทำงานเชิงเทคนิคที่มุ่งเน้นการสร้างความปลอดภัยให้กับ AI Agent ที่มีความสามารถสูง โดยใช้แนวทาง "Defense-in-depth" หรือการป้องกันแบบหลายชั้น แนวทางนี้ตั้งอยู่บนสมมติฐานว่าเราควรปฏิบัติกับ AI Agent ที่ไม่น่าไว้วางใจเสมือนเป็น "ภัยคุกคามภายใน" (Insider Threat)
องค์ประกอบหลักของแผนงานนี้รวมถึงการสร้างระบบ "Supervisor AI" เพื่อตรวจสอบพฤติกรรมและการตัดสินใจของ Agent แบบเรียลไทม์ หากระบบตรวจพบการทำงานที่อาจสร้างความเสียหาย เช่น การโจมตีทางไซเบอร์ หรือการลบข้อมูลสำคัญ ระบบจะสามารถเข้ามายับยั้งได้ทันท่วงที นอกจากนี้ยังมีการกำหนดตัวชี้วัดประสิทธิภาพในด้านความครอบคลุมของการตรวจสอบ และความรวดเร็วในการตอบสนองเพื่อให้เท่าทันความฉลาดของโมเดล AI ในอนาคต
