NVIDIA ได้ให้นิยามใหม่ของโครงสร้างพื้นฐานด้านไอทีด้วยแนวคิด 'AI Factory' (โรงงานเอไอ) ซึ่งเปรียบเสมือนโรงไฟฟ้าในยุคอุตสาหกรรม แต่ในยุคเอไอ โรงงานเหล่านี้จะเปลี่ยนพลังงานให้กลายเป็น 'โทเค็น' (Tokens) ซึ่งเป็นหน่วยการประมวลผลของโมเดลอัจฉริยะ โดยประสิทธิภาพจะถูกวัดจากจำนวนโทเค็นที่ผลิตได้ต่อวินาทีต่อวัตต์
NVIDIA ยังได้เปิดเผยรายละเอียดของแพลตฟอร์มใหม่ 'Vera Rubin' ซึ่งต่อยอดจาก Blackwell Ultra โดยได้รับการออกแบบมาเพื่อเพิ่มประสิทธิภาพการประมวลผลต่อวัตต์ขึ้นสูงสุดถึง 35 เท่าผ่านเทคโนโลยี LPX ซึ่งจะช่วยลดต้นทุนต่อโทเค็นลงอย่างมาก นอกจากนี้ยังมีการใช้เฟรมเวิร์ก NVIDIA Dynamo เพื่อช่วยในการจัดการงาน Inference ขนาดใหญ่ที่มีความซับซ้อน ช่วยให้องค์กรต่างๆ สามารถเปลี่ยนเอไอจากเครื่องมือเป็นกำลังหลักในกระบวนการทำงานได้
