Dave Kuszmar นักวิจัยด้านความปลอดภัยได้เปิดเผยการค้นพบช่องโหว่เชิงระบบที่ร้ายแรงในโมเดลภาษาขนาดใหญ่ (LLM) ชั้นนำของโลกหลายตัว เช่น Google Gemini และ ChatGPT โดยพบว่าสามารถใช้เทคนิคการป้อนคำสั่ง (Prompting) เพื่อหลอกให้ AI ข้ามมาตรการความปลอดภัยและให้ข้อมูลที่เป็นอันตรายได้
จากการทดสอบ นักวิจัยสามารถทำให้โมเดลให้คำแนะนำโดยละเอียดเกี่ยวกับการสร้างอาวุธ สารเสพติด และการโจรกรรมข้อมูล ซึ่งปกติแล้วบริษัทผู้พัฒนาจะวางระบบป้องกันที่เข้มงวดไว้เพื่อไม่ให้ตอบคำถามเหล่านี้ อย่างไรก็ตาม ข้อจำกัดที่บริษัทต่างๆ นำมาใช้นั้นกลับกลายเป็นช่องโหว่ที่ผู้โจมตีสามารถใช้ประโยชน์เพื่อควบคุมโมเดลให้ทำงานนอกเหนือจากขอบเขตที่กำหนดได้
ประเด็นที่น่ากังวลที่สุดคือการตอบสนองจากบริษัทผู้พัฒนา AI ซึ่งมักจะไม่ให้ความสำคัญหรือตอบสนองต่อการแจ้งเตือนช่องโหว่เหล่านี้ นักวิจัยจึงเรียกร้องให้มีการชะลอการใช้งานในวงกว้าง เพิ่มความโปร่งใส และลงทุนในการวิจัยด้านความปลอดภัยของ LLM อย่างจริงจังก่อนที่จะมีการนำระบบเหล่านี้ไปรวมเข้ากับโครงสร้างพื้นฐานของสังคมมากขึ้น
