Google DeepMind ร่วมกับ Schmidt Sciences และองค์กรพันธมิตร ประกาศเปิดรับข้อเสนอโครงการวิจัยด้านความปลอดภัยของ Multi-Agent AI โดยสนับสนุนทุนวิจัยรวมกว่า 10 ล้านดอลลาร์ เพื่อเตรียมรับมือกับอนาคตที่ AI เอเจนต์นับล้านตัวจากต่างผู้พัฒนาจะต้องสื่อสาร เจรจา และทำธุรกรรมร่วมกันในโลกดิจิทัล
งานวิจัยจะเน้นไปที่ 4 ด้านหลัก ได้แก่ การสร้างสภาพแวดล้อมจำลอง (Sandboxes) สำหรับทดสอบระบบ, การศึกษาพฤติกรรมอุบัติการณ์ (Emergent behaviors) ในเครือข่ายเอเจนต์, การเสริมสร้างโครงสร้างพื้นฐาน เช่น โปรโตคอลการยืนยันตัวตน และการพัฒนาระบบตรวจสอบและควบคุมเพื่อลดผลกระทบในวงกว้าง โครงการนี้มีจุดมุ่งหมายเพื่อป้องกันความเสี่ยงที่ 'มองไม่เห็น' ซึ่งอาจเกิดขึ้นเมื่อระบบ AI อิสระโต้ตอบกันเองในระบบเครือข่าย
