เนื่องจากความต้องการพลังงานไฟฟ้าในการฝึกโมเดล AI พุ่งสูงขึ้นจนสร้างภาระให้กับสิ่งแวดล้อม นักวิจัยและบริษัทเทคโนโลยีจึงเริ่มเปลี่ยนแนวทางจากการใช้ Data Center ขนาดใหญ่เพียงแห่งเดียว มาเป็นการฝึกแบบกระจายศูนย์ (Decentralized Training) แนวคิดนี้คือการนำงานประมวลผลไปหาแหล่งพลังงานที่มีอยู่แล้ว เช่น คอมพิวเตอร์ในบ้านที่ใช้พลังงานแสงอาทิตย์หรือเซิร์ฟเวอร์ที่ว่างงานในสำนักงานต่างๆ
ความท้าทายหลักของการฝึกแบบกระจายคือความเร็วในการรับส่งข้อมูลและความเสถียรของเครือข่าย อย่างไรก็ตาม มีการพัฒนาเทคนิคใหม่ๆ เช่น อัลกอริทึม DiLoCo ของ Google DeepMind ที่ช่วยลดความถี่ในการแลกเปลี่ยนข้อมูลระหว่างกลุ่มชิปประมวลผลที่อยู่ห่างกัน และแพลตฟอร์มอย่าง Akash Network ที่สร้างตลาดกลางสำหรับการเช่าซื้อพลังประมวลผลจาก GPU ที่ไม่ได้ใช้งาน ทำให้การพัฒนา AI เข้าถึงง่ายขึ้นและยั่งยืนต่อสิ่งแวดล้อมมากขึ้น
