AI热点 3月前 131 阅读 0 评论

刚刚,英伟达推最强人形机器人“大脑”,AI性能暴涨7.5倍,算力飙到2070 TFLOPS

作者头像
AI中国

AI技术专栏作家 | 发布了 246 篇文章

智东西

作者 | ZeR0

编辑 | 漠影

地表最强机器人“大脑”,又易主了!

智东西8月25日报道,今日,英伟达推出专为物理AI和人形机器人打造的NVIDIA Jetson Thor,它被英伟达创始人兼CEO黄仁勋称作是“推动物理AI和通用机器人时代的终极超级计算机”。

Jetson Thor采用英伟达Blackwell GPU、14核Arm Neoverse CPU和128GB显存,显存带宽为273 GB/s,FP4精度下AI峰值算力为2070 TFLOPS,FP8精度下AI峰值算力为1035 TFLOPS,可在边缘加速生成式AI与大型Transformer模型。

它支持包括VLA(视觉语言动作)模型、LLM(大语言模型)、VLM(视觉语言模型)在内的各种生成式AI模型,能处理实时视频数据流和AI推理,适用于构建可在边缘执行视觉搜索和总结任务的AI agents。

包括CPU、GPU、SLC、DRAM连接、网络、电源管理等在内,整个Jetson Thor计算机的功率可配置在40W到130W之间。

借助4个25 GbE网络、摄像头卸载引擎和Holoscan传感器桥接器,Jetson Thor可提取高速传感器数据,实现实时性能。

全新机器人芯片专攻的重点特性,就是运行多AI工作流,让机器人能与人类和物理世界进行实时、智能的交互,推动视觉AI agents和复杂机器人系统的发展。

与上一代Jetson Orin相比,Jetson Thor的AI计算性能提升多达7.5倍,能效提升多达3.5倍,CPU性能提升多达3.1倍,I/O吞吐量提升多达10倍

如果与10年前相比,性能提升就更猛了——AI性能足足提高多达7000倍

Jetson Thor与机器人AI软件平台搭配,支持各种主流AI框架,以及字节跳动、DeepSeek、阿里Qwen、谷歌Gemini、Meta、Mistral AI、OpenAI、Physical Intelligence(π)等企业的生成式AI模型。

它还与英伟达从云到边缘的软件栈完全兼容,包括用于机器人仿真和开发的Isaac平台、Isaac GR00T人形机器人基础模型、用于视觉AI的NVIDIA Metropolis和用于实时传感器处理的NVIDIA Holoscan等。

机器人需要搭载丰富的传感器来感知世界,并实现低延时的AI处理。实时控制框架通常在100Hz-1kHz频率上运行,感知与规划通常在30Hz频率上运行,高级推理通常在1-5Hz频率上运行,就像人思考一样,可能会想几秒钟。

在并行处理16个传感器输入时,运行Llama 3B和Qwen 2.5 VL 3B模型,Jetson Thor生成第一个token的时间在200ms内,输出每token的时间在50ms内,这意味着运行这些模型可以每秒生成超过25个token,相较前代翻倍提升。

Jetson Thor为通用推理而设计,运行阿里Qwen 3-30B-A3B、英伟达Cosmos Reason 1 7B、DeepSeek-R1-Qwen-32B等推理模型时,FP8精度下性能已经提升多达3~5倍,FP4精度下更是猛蹿一大截,最多提升至10倍

英伟达CUDA生态系统中的软件在Jetson整个生命周期中不断优化。例如,在整个生命周期中,通过软件升级将Xavier的性能提高了50%,将Orin的性能提高了100%

随着未来软件持续优化,Jetson Thor将实现更大幅度的性能提升。

自2014年以来,英伟达Jetson平台与机器人软件栈吸引了200多万开发者150多个硬件系统、软件和传感器合作伙伴组成的生态系统。7000多家客户已采用Jetson Orin。

众擎机器人、银河通用、优必选、宇树科技等明星人形机器人公司,还有联影医疗等医疗企业、万集科技等智能交通企业,都已经率先采用Jetson Thor。

英伟达Jetson AGX Thor开发者套件现已上市,全球开售,定价3499美元(约合人民币2.50万元)

Jetson T5000、Jetson T4000模组可从全球分销合作伙伴处获得。Jetson T5000购买1000片以上单价2999美元(约合人民币2.15万元)

具体规格如下:

英伟达DRIVE AGX Thor开发套件是英伟达为安全自动驾驶汽车设计的开发平台,已通过安全认证,同样搭载了内置生成式AI引擎的Blackwell GPU,有丰富的SDK套件和库。该开发套件已经可以预订。

比亚迪、元戎启行、广汽、智己、理想、文远知行、小米、极氪、卓御等领先的智能驾驶汽车企业都在积极拥抱DRIVE AGX Thor。

面向人形机器人开发,英伟达提供了基础的系统、蓝图、工具、服务、算法及其他机器人技术,与生态系统合作,为构建机器人产品并将其带到现实世界的四个重要步骤(数据生成、模型训练、仿真测试、部署推理)提供端到端完整工作流。

英伟达机器人业务正在快速增长。今年,英伟达在财报中将汽车和机器人业务合并,第一季度收入为5.67亿美元,同比增长72%。

目前,英伟达专注于为物理AI和机器人打造3台计算机,包括用于训练模型的NVIDIA DGX AI超算、用于合成数据生成与仿真测试的NVIDIA OVX计算机以及安装在机器人本体上的实时计算机(如Jetson Thor)。

从感知AI、生成式AI、Agentic AI到面向未来的物理AI,英伟达正将其计算疆域铺满AI的整个生命周期。

作者头像

AI前线

专注人工智能前沿技术报道,深入解析AI发展趋势与应用场景

246篇文章 1.2M阅读 56.3k粉丝

评论 (128)

用户头像

AI爱好者

2小时前

这个更新太令人期待了!视频分析功能将极大扩展AI的应用场景,特别是在教育和内容创作领域。

用户头像

开发者小明

昨天

有没有人测试过新的API响应速度?我们正在开发一个实时视频分析应用,非常关注性能表现。

作者头像

AI前线 作者

12小时前

我们测试的平均响应时间在300ms左右,比上一代快了很多,适合实时应用场景。

用户头像

科技观察家

3天前

GPT-4的视频处理能力已经接近专业级水平,这可能会对内容审核、视频编辑等行业产生颠覆性影响。期待看到更多创新应用!