NVIDIA ได้เปิดตัวโมดูล cuda.bindings.cudla ซึ่งเป็นส่วนหนึ่งของโปรเจกต์ CUDA Python ที่ช่วยให้นักพัฒนาสามารถใช้ Deep Learning Accelerator (DLA) เพื่อการอนุมาน (inference) ในแอปพลิเคชัน Python ได้โดยตรงบนแพลตฟอร์ม Jetson AGX Orin และ NVIDIA RTX Spark การเปิดตัวนี้ช่วยให้สามารถเรียกใช้ API ของ cuDLA C++ จาก Python ได้ ทำให้การรวม DLA เข้ากับเวิร์กโฟลว์ของนักพัฒนาง่ายขึ้นโดยไม่ต้องเขียนโค้ด C++
DLA เป็นฮาร์ดแวร์เร่งความเร็วที่ออกแบบมาสำหรับงาน deep learning inference โดยเฉพาะ ช่วยให้การทำงานของโครงข่ายประสาทเทียมบางประเภทมีประสิทธิภาพด้านพลังงานสูงขึ้น และช่วยปลดภาระงานจาก GPU ทำให้ GPU สามารถนำไปใช้ในงานอื่น ๆ ได้ การทำงานในโหมดไฮบริดช่วยให้ CUDA streams สามารถประสานงานระหว่าง DLA inference กับการประมวลผลล่วงหน้าและหลังการประมวลผลบน GPU ได้อย่างราบรื่น
กระบวนการทำงานครอบคลุมตั้งแต่การเริ่มต้น CUDA, การสร้างอุปกรณ์ DLA ในโหมดไฮบริด, การโหลดโมเดลที่คอมไพล์แล้ว, การจัดการบัฟเฟอร์ GPU, การคัดลอกข้อมูล, การส่งงานผ่าน CUDA stream และการซิงโครไนซ์เพื่ออ่านผลลลัพธ์ นอกจากนี้ API ชุดเดียวกันยังสามารถใช้งานได้กับ NVIDIA RTX Spark ซึ่งขยายขีดความสามารถของ DLA inference ไปยังแล็ปท็อปของนักพัฒนา AI บน Windows ได้อีกด้วย
