รายงานจาก 404 Media ระบุว่าผู้ไม่หวังดีสามารถโจมตีระบบรักษาความปลอดภัยของ Instagram ผ่านเอไอตัวแทนช่วยเหลือลูกค้าของ Meta โดยใช้วิธีการที่เรียบง่ายอย่างการสั่งให้เอไอเปลี่ยนอีเมลที่ผูกกับบัญชีเป้าหมายเป็นอีเมลที่ผู้โจมตีควบคุมอยู่ ซึ่งเอไอได้ปฏิบัติตามคำสั่งดังกล่าวโดยไม่มีการตรวจสอบที่เข้มงวดเพียงพอ การโจมตีนี้ส่งผลให้บัญชีสำคัญหลายบัญชีถูกยึดไป รวมถึงบัญชีอดีตทำเนียบขาวในยุคโอบามา
ผู้เชี่ยวชาญด้านความปลอดภัยชี้ให้เห็นว่า แม้ความกังวลเรื่อง AI ในปัจจุบันมักมุ่งเน้นไปที่โมเดลอัจฉริยะที่สามารถช่วยแฮกเกอร์โจมตีระบบได้ แต่กรณีนี้แสดงให้เห็นว่าตัวระบบ AI เองนั่นแหละที่เป็นเป้าหมายในการโจมตี โดยเฉพาะเมื่อบริษัทต่างๆ เริ่มนำ AI มาใช้ทำงานแทนมนุษย์ในกระบวนการที่ละเอียดอ่อน เช่น การกู้คืนบัญชี ซึ่งต้องการการวางมาตรการป้องกัน (Guardrails) และการทดสอบระบบ (Red-teaming) ที่เข้มงวดกว่าเดิม
