ก้าวต่อไปของเทคโนโลยี AI คือการเปลี่ยนจากแชทบอทไปสู่ 'Agent' ที่สามารถทำงานแทนมนุษย์และสั่งการ Agent ตัวอื่นๆ ได้ อย่างไรก็ตาม Google DeepMind แสดงความกังวลถึงความเสี่ยงรูปแบบใหม่ที่จะเกิดขึ้นเมื่อ Agent จำนวนมหาศาลโต้ตอบกันในโลกออนไลน์ จึงได้จับมือกับ Schmidt Sciences และหน่วยงานรัฐบาลสหราชอาณาจักร (ARIA) เพื่อสนับสนุนเงินทุนวิจัยด้านความปลอดภัยในระบบ Multi-Agent โดยเฉพาะ
เป้าหมายคือการสร้างสนามทดสอบจำลอง (Simulation sandbox) เพื่อศึกษาว่าเมื่อ Agent ที่ใช้โมเดลภาษาขนาดใหญ่ (LLM) มารวมตัวกันเป็นจำนวนมาก จะเกิดพฤติกรรมที่คาดเดาไม่ได้หรือเกิดการโจมตีทางไซเบอร์รูปแบบใหม่หรือไม่ นักวิจัยชี้ว่าความซับซ้อนไม่ได้เกิดจากตัว Agent เพียงตัวเดียว แต่เกิดจากปฏิสัมพันธ์ระหว่าง Agent ที่อาจสร้างผลกระทบต่อระบบเศรษฐกิจหรือความปลอดภัยดิจิทัลในวงกว้าง
