ในยุคของ Generative AI ศูนย์ข้อมูลได้เปลี่ยนบทบาทจากที่เก็บข้อมูลมาเป็นโรงงานผลิตโทเคน (AI Token Factories) NVIDIA จึงเสนอให้ธุรกิจเปลี่ยนมุมมองการประเมินความคุ้มค่าของโครงสร้างพื้นฐาน AI จากเดิมที่เน้นราคาต่อชิป หรือประสิทธิภาพการคำนวณดิบ (FLOPS per dollar) มาเป็นการเน้นที่ 'ต้นทุนต่อล้านโทเคน' (Cost per Token) แทน
NVIDIA อธิบายว่าต้นทุนต่อโทเคนเป็นตัวชี้วัดที่รวมปัจจัยทั้งด้านฮาร์ดแวร์ การเพิ่มประสิทธิภาพซอฟต์แวร์ และการใช้งานจริงในโลกธุรกิจ หากพิจารณาเพียงต้นทุนอินพุต (ราคาชิป) จะไม่เห็นภาพรวมของกำไรและการขยายตัวของบริการ AI
ตัวอย่างที่เห็นได้ชัดคือ แพลตฟอร์ม NVIDIA Blackwell แม้จะมีต้นทุนการประมวลผลสูงกว่ารุ่น Hopper ประมาณ 2 เท่า แต่กลับสามารถผลิตโทเคนได้มากกว่าถึง 65 เท่าต่อหนึ่งจีพียู ส่งผลให้ต้นทุนต่อล้านโทเคนลดลงถึง 35 เท่า ซึ่งช่วยเพิ่มกำไรและศักยภาพในการสร้างรายได้ให้กับองค์กรอย่างมหาศาล
