迅维网

国产GPU迈出一大步!天数智芯天垓300实测反超NVIDIA H200

ptmanager 2026-10-29 10:50

据报道,在天数智芯10月28日举办的从模型到世界2026媒体开放日活动,旗下新一代AI芯片天垓300首次面向媒体开放实机演示。

活动现场开放天垓300实机演示,接受与H200在GLM-5.3等大语言模型、文生图、文生视频场景的对比测试,天垓300整体表现均优于H200。

训练方面,在基于Qwen3-32B模型的8卡整机FP8精度训练演示中,天垓300每卡有效吞吐达到H100的1.33倍。

天垓300于今年7月世界人工智能大会上正式发布,采用天数天枢架构,集成新一代Tensor Core,配备144GB显存,原生支持标量、矢量、张量三类计算模式,覆盖FP4、FP8、FP16、BF16等多种数据精度,并支持高速片间互联。

上海仪电今年7月完成的第三方实测显示,在大模型典型的PD分离部署下,天垓300折算单卡整体端到端吞吐达到H200的1.05倍,这是国内首个实测性能达到H200水平的通用GPU。

天数智芯性能实验室的实测进一步覆盖典型业务场景:

在64K长上下文下,天垓300的Attention性能为H200的1.05倍;

GLM-5.3模型64K规模下,保障同等用户体验的同时,MoE吞吐为H200的1.15倍;

8K至128K长上下文场景下Agent首字延迟较H200降低约10%至30%;

多模态生成推理吞吐较H200提升约2%至5%;

在搜广推等在线业务中,推荐推理吞吐提升21%,轻量计算时延降低26%。

规模化交付侧,天垓300已形成从加速卡、一机8卡服务器到超节点的完整系统方案,天垓300 IXL144超节点在单个标准机柜内集成144颗GPU,约10.1TB显存,每百万有效Token成本较国际主流方案可降低约40%。

国产GPU迈出一大步!天数智芯天垓300实测反超NVIDIA H200


本文转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责。如涉及作品内容、版权和其它问题,请在30日内与本网联系,我们将在第一时间删除内容! [声明] 本站文章版权归原作者所有,内容为作者个人观点,本站只提供参考并不构成任何投资及应用建议。

雷人

握手

鲜花

鸡蛋

路过
收藏
发表评论

最新评论

发表评论

返回顶部