รายงานล่าสุดจาก MIT Technology Review ระบุว่าผู้นำในอุตสาหกรรม AI เช่น CEO ของ Anthropic และ OpenAI ต่างมีความกังวลอย่างยิ่งเกี่ยวกับความสามารถของ AI ในการสนับสนุนการออกแบบและสร้างอาวุธชีวภาพ ความกังวลนี้มีพื้นฐานมาจากกรณีศึกษาในปี 2022 ที่พบว่าโมเดล AI สำหรับการออกแบบยาสามารถสร้างโมเลกุลที่มีศักยภาพเป็นสารเคมีสงครามได้ถึง 40,000 ชนิดในเวลาไม่ถึง 6 ชั่วโมง
ปัจจุบันเครื่องมือ AI สามารถเข้าถึงฐานความรู้ทางวิทยาศาสตร์จำนวนมาก และเมื่อรวมกับความก้าวหน้าในด้านพันธุวิศวกรรมที่เข้าถึงได้ง่ายขึ้น (DIY biology) ทำให้เกิดความเสี่ยงที่ผู้ไม่หวังดีอาจใช้ AI เพื่อสร้างไวรัสหรือสารพิษสายพันธุ์ใหม่ แม้ว่าบริษัท AI จะพยายามสร้างระบบป้องกันและตรวจสอบการใช้งานในทางที่ผิด แต่ผู้เชี่ยวชาญระบุว่าระบบเหล่านี้ยังไม่สามารถป้องกันได้อย่างสมบูรณ์ และจำเป็นต้องมีการเฝ้าระวังอย่างต่อเนื่อง
