CLOUD & INFRA

Lambda เพิ่มประสิทธิภาพและความยืดหยุ่นของ AI Factory ด้วย NVIDIA Photonics

NVIDIA Blog16 Nov 2026
1 min read
Key Takeaways
  • Lambda กำลังใช้สวิตช์ NVIDIA Photonics CPO เพื่อเพิ่มประสิทธิภาพการใช้พลังงานและความน่าเชื่อถือของเครือข่ายใน AI Factory ขนาดใหญ่ ซึ่งจำเป็นต่อการรองรับ GPU จำนวนมากและการฝึกโมเดล AI ขั้นสูง

ทำไมเรื่องนี้ถึงสำคัญ

ในบริบทของ AI Factory ขนาดใหญ่ที่ต้องการการทำงานของ GPU จำนวนมากอย่างต่อเนื่อง ประสิทธิภาพและความยืดหยุ่นของเครือข่ายเป็นสิ่งสำคัญยิ่ง การใช้ NVIDIA Photonics ช่วยแก้ปัญหาคอขวดด้านพลังงานและการหยุดชะงักของเครือข่าย ทำให้สามารถรันงาน AI Training และ Agentic Inference ได้อย่างมีประสิทธิภาพมากขึ้น ซึ่งส่งผลโดยตรงต่อความเร็วในการพัฒนา AI และลดต้นทุนการดำเนินงาน

Lambda ซึ่งเป็นผู้ให้บริการคลาวด์ชั้นนำ ได้นำสวิตช์ NVIDIA Photonics ที่ใช้เทคโนโลยี Co-Packaged Optics (CPO) มาใช้งานเพื่อเสริมสร้างความยืดหยุ่นและประสิทธิภาพการใช้พลังงานใน AI Factory ของตน สวิตช์เหล่านี้ถูกใช้เพื่อเชื่อมต่อ GPU มากกว่า 10,000 ตัวของ NVIDIA GB300 NVL72 ซึ่งช่วยให้การฝึกโมเดล AI ขนาดใหญ่มีความเสถียรและประหยัดพลังงานมากขึ้น

การนำเทคโนโลยีนี้มาใช้ส่งผลให้เกิดการปรับปรุงที่สำคัญ โดยการทดสอบของ Lambda พบว่า latency ของเครือข่ายลดลงประมาณ 4% ในระดับ rack และสูงถึง 10% ในระดับ pod ในขณะที่ยังคงรักษา throughput ได้เท่าเดิมเมื่อเทียบกับ optics แบบ pluggable ทั่วไป เทคโนโลยี NVIDIA Photonics ยังให้ประสิทธิภาพการใช้พลังงานที่ดีขึ้นถึง 5 เท่า และความน่าเชื่อถือสูงขึ้นถึง 15 เท่า ด้วยการใช้เลเซอร์น้อยลงถึง 4 เท่า นอกจากนี้ การออกแบบ CPO ยังช่วยลดความร้อนของ optics (อุณหภูมิเฉลี่ย 36°C) และทำให้สามารถเปลี่ยนแหล่งกำเนิดแสงภายนอกได้ง่าย ซึ่งแตกต่างจาก optics แบบ pluggable ที่ต้องเปลี่ยนทั้งโมดูลหากเลเซอร์เสีย การลดระยะทางไฟฟ้าจากหน่วยวัดนิ้วเป็นมิลลิเมตรยังช่วยลดการสูญเสียสัญญาณและลดความจำเป็นของชิป retimer ซึ่งช่วยประหยัดพลังงานและลดจำนวนส่วนประกอบในเส้นทางสัญญาณ

สรุปประเด็นหลัก

Lambda ใช้สวิตช์ NVIDIA Photonics CPO ใน AI Factory เพื่อเชื่อมต่อ GPU กว่า 10,000 ตัว

เทคโนโลยีนี้ช่วยลด latency, เพิ่มความน่าเชื่อถือ และปรับปรุงประสิทธิภาพการใช้พลังงาน

การออกแบบ CPO มีแหล่งกำเนิดแสงที่เปลี่ยนได้และระบบระบายความร้อนที่มีประสิทธิภาพ

นวัตกรรมและเทคโนโลยี

hardware

สวิตช์ Co-Packaged Optics (CPO)

Lambda ใช้สวิตช์ NVIDIA Photonics CPO เพื่อเชื่อมต่อ GPU มากกว่า 10,000 ตัวใน AI Factory ซึ่งรวมการแปลงสัญญาณไฟฟ้าเป็นแสงไว้ใกล้กับชิปสวิตช์เพื่อลดการสูญเสียสัญญาณและเพิ่มประสิทธิภาพ

infrastructure

ประสิทธิภาพพลังงานและความน่าเชื่อถือสูง

CPO ให้ประสิทธิภาพการใช้พลังงานที่ดีขึ้นถึง 5 เท่า และความน่าเชื่อถือสูงขึ้นถึง 15 เท่า เมื่อเทียบกับ optics แบบ pluggable ทั่วไป โดยใช้เลเซอร์น้อยลง 4 เท่าและมีแหล่งกำเนิดแสงที่สามารถเปลี่ยนได้ภาคสนาม

networking

การลด Latency เครือข่าย

การทดสอบแสดงให้เห็นว่า latency ของเครือข่ายลดลงประมาณ 4% ในระดับ rack และสูงสุด 10% ในระดับ pod ในขณะที่ยังคงรักษา throughput ได้เท่าเดิม ซึ่งสำคัญต่อการทำงานของ AI Cluster ขนาดใหญ่

Developer Impact
ผู้ดูแลระบบโครงสร้างพื้นฐานและทีมวิศวกรที่ทำงานใน AI Factory ขนาดใหญ่จะได้รับประโยชน์จากเครือข่ายที่มีความน่าเชื่อถือสูงขึ้นและมีประสิทธิภาพพลังงานที่ดีขึ้น ซึ่งจะช่วยลดปัญหาการหยุดชะงักในการทำงานของ GPU Cluster ขนาดใหญ่และเพิ่มความมั่นใจในการรันเวิร์กโหลด AI ที่สำคัญ ทีมเทคนิคสามารถมุ่งเน้นไปที่การปรับแต่งโมเดล AI มากกว่าการแก้ไขปัญหาเครือข่าย
Keywords
#lambda #nvidia #photonics #co-packaged optics #ai factory #infrastructure #networking #gpus
Original Source

อ่านข้อมูลเพิ่มเติมจากแหล่งข่าวหลัก

NVIDIA Blog