英伟达公司已经在其Jetson产品系列中推出了新的产品:信用卡大小(70x45mm)的外形尺寸,提供高达21万亿次操作/秒(TOPS)的吞吐量。
Jetson Xavier NX模块的功耗仅为10瓦,价格为399美元,旨在嵌入边缘设备,例如小型机器人,无人机,工厂物流和生产线传感器,光学检测,便携式医疗设备以及其他工业设备。物联网系统需要小型,轻便,低功耗的处理。
Jetson Xavier NX模块
Nvidia的Edge Computing副总裁/总经理Deepu Talla表示:“ AI已成为现代机器人和嵌入式设备的使能技术,它将改变行业。” “这些设备中的许多设备都是基于小尺寸和低功耗的,因此无法添加更多的AI功能。Jetson Xavier NX使我们的客户和合作伙伴能够显着提高AI功能,而无需增加设备的尺寸或功耗。”
根据Nvidia的数据,Jetson Xavier NX的功率为10W,最高可提供14 TOPS,而功率为15W时,最高可提供21 TOPS。Nvidia Autonomous Machines副总裁Rob Csongor在发布前的新闻发布会上说,在其强大的功能范围内,该系统可以提供比先前宣布的Jetson Xavier更低的性能,但具有纳米尺寸。他说:“我们采用了Xavier并对其进行了调整,以实现极高的性能,但在非常有针对性的功率预算之内。”
英伟达表示,Jetson Xavier NX可以并行运行多个神经网络,同时处理来自多个高分辨率传感器的数据。该硬件在现有Jetson产品中使用的CUDA-X AI软件架构上运行,并得到Nvidia的JetPack软件开发套件的支持,该套件是AI软件堆栈,该公司称其“可以运行现代和复杂的AI网络,还可以加速用于深度学习的库例如计算机视觉,计算机图形学,多媒体等等。”
“ Nvidia的嵌入式Jetson产品一直在加速洛克希德·马丁公司平台上的嵌入式AI解决方案的研究,开发和部署,”洛克希德·马丁公司应用AI总监兼首席架构师Lee Ritholtz说。“凭借Jetson Xavier NX出色的性能,小巧的外形和低功耗,我们将能够在边缘实时进行比以往更多的处理。”
Nvidia今天还宣布,它在测量AI推理工作负载性能的五个MLPerf Inference 0.5基准测试中排名第一。Nvidia表示,结果证明了该公司用于数据中心的Turing GPU的推理能力以及用于边缘的Jetson Xavier片上系统的推理能力。Jetson Xavier NX模块是基于这些基准测试中使用的Xavier SoC的低功耗版本构建的。
Jetson Xavier NX的规格包括具有384个CUDA内核和48个Tensor内核的Nvidia Volta GPU;6核Carmel Arm 64位CPU; 最多六个CSI摄像机(通过虚拟通道36个);使用千兆以太网的8GB 128位LPDDR4x内存,速度为51.2GB /秒; 和基于Ubuntu的Linux操作系统。
Jetson Xavier NX加入了包括Jetson Nano,Jetson AGX Xavier和Jetson TX2系列在内的Jetson产品线。该公司表示Jetson提供支持主要的AI框架,包括TensorFlow,PyTorch,MxNet,Caffe等。Jetson Xavier NX将于3月上市,但Nvidia表示开发人员现在可以开始使用带有软件补丁的Jetson AGX Xavier Developer Kit来模拟Jetson Xavier NX。
“在一个每天发布AI芯片的世界中,我相信Nvidia凭借其Jetson Xavier NX提升了标准-显示出小尺寸,低功耗的出色性能以及一致且强大的软件架构,Moor Insights&Strategy总裁兼首席分析师Patrick Moorhead表示。