推广 热搜:   中国  未来  政策  设备  公司2  基金  快速  行业  系统 

NVLINK升级至1.4TB/s!NVIDIA Blackwell已在数据中心运行

   日期:2024-09-01       caijiyuan   评论:0    移动:http://mip.tpjde.com/news/7591.html
核心提示:8月25日消息,据媒体报道,NVIDIA在近期的吹风会上,展示了Blackwell在数据中心的运行情况,并驳斥了此前关于Blackwell推迟上市

8月25日消息,据媒体报道,NVIDIA在近期的吹风会上,展示了Blackwell数据中心的运行情况,并驳斥了此前关于Blackwell推迟上市的传闻。

NVl<em></em>ink升级至1.4TB/s!NVIDIA Blackwell已在数据中心运行

不仅如此,NVIDIA NVlink技术也迎来了重大升级,带宽翻倍达到1.4TB/s。

Blackwell..不仅包含Blackwell GPU,还集成了Grace CPU、NVlink Switch Chip、Bluefield-3、ConnectX-7、ConnectX-8、Spectrum-4和Quantum-3等多种芯片,形成了一个全面的数据中心解决方案。

Blackwell..的设计目标是满足现代人工智能的需求,特别是针对超大型语言模型的计算需求,随着AI模型参数的不断增长,数据中心对计算能力和低延迟的要求也越来越高。

Blackwell..的多GPU推理方法,通过在多个GPU上分配计算任务,实现了低延迟和高吞吐量的处理能力。

NVIDIA通过Blackwell推出了速度更快的NVlink交换机,该交换机基于台积电4NP节点,提供了1.8TB/s的双向NVlink带宽,能够连接72个GPU,大幅提高了数据中心的通信效率。

NVIDIA还分享了全球首张使用FP4计算生成的人工智能图像,展示了FP4量化模型在速度上的显著优势,同时保持了与FP16模型相似的图像质量。

本文地址:http://www.tpjde.com/news/7591.html    推平第 http://www.tpjde.com/ , 查看更多
 
 
更多>同类行业资讯
0相关评论

新闻列表
企业新闻
推荐企业新闻
推荐图文
推荐行业资讯
点击排行
网站首页  |  关于我们  |  联系方式  |  使用协议  |  版权隐私  |  网站地图  |  排名推广  |  广告服务  |  积分换礼  |  网站留言  |  RSS订阅  |  违规举报  |  鄂ICP备2023001713号