12月20日消息,前不久国产GPU初创企业摩尔线程上市,市值一度达到了4000多亿元,今天该公司又发布了新一代GPU架构,AI及游戏性能大涨,其中游戏性能飙升了15倍。即便是当前一代的显卡中,摩尔线程也在不断联合伙伴优化,硅基流动今天宣布在S5000显卡上实现了国产GPU推理性能的飞跃。根据他们的实测数据,经过系统级工程优化与FP8精度加速,摩尔线程MTTS5000单卡Prefill吞吐达到4000tokens/s以上,Decode吞吐超过1000tokens/s。这是什么概念,...
12月20日消息,前不久国产gpu初创企业摩尔线程上市,市值一度达到了4000多亿元,今天该公司又发布了新一代gpu架构,ai及游戏性能大涨,其中游戏性能飙升了15倍。
即便是当前一代的显卡中,摩尔线程也在不断联合伙伴优化,硅基流动今天宣布在S5000显卡上实现了国产GPU推理性能的飞跃。
根据他们的实测数据,经过系统级工程优化与 FP8 精度加速,摩尔线程 MTT S5000 单卡 Prefill 吞吐达到 4000 tokens/s

以上,Decode 吞吐超过 1000 tokens/s。
这是什么概念,他们对比了NVIDIA的H100显卡,Prefill 阶段同场景下H100 性能约为6500 tokens/s,在 MTT S5000 上实现了4000+ tokens/s 的实测吞吐,达成了NVIDIA H100逾61%的实测性能。
虽然也只是Prefill 阶段的性能,但是S5000能有H100显卡60%以上的性能绝对是国产显卡中的一大进步。
MTT S5000是摩尔线程基于平湖GPU架构推出的AI显卡,首次支持FP8,性能可以达到1024TFLOPS,而H100的FP8性能接近4000TFLOPS。
关于硅基流动与摩尔线程是如何优化S5000显卡的,详情可以参考他们的官方稿件,这件事可以说明国产的显卡尽管参数上可能还落后不少,但通过工程优化还能不断提升性能表现,某些方面是有意想不到的变化的。
摩尔线程现在不足的地方除了硬件规模和工艺受限等因素,软件生态当然也无法跟NVIDIA相比,但这部分随着国内厂商的通力合作已经在起变化,未来几年在硬件规模及软件生态不断发展下,不论是AI还是游戏卡,拿出让NVIDIA感受到压力的产品也不是没可能。
相关推荐:
SEO培训:助力企业实现互联网营销的无限可能,平塘网站优化推广价格
如何用AI改文章,让写作更高效、精准,提升内容质量
SEO优化公司哪家好?选择合适的SEO公司提升网站排名与流量,能把自己的声音做成ai
SEO优化技巧如何提高网站排名,轻松打造高效SEO策略
【收藏】分享10个普通人可以操作的有效引流方法
文本优化AI:颠覆写作方式,助力内容创作新时代,斑马ai课怎么换课
AI撰写率:让创作变得更高效,助力内容产业腾飞,AI证件照apk破解版
微信引流的四大群体,引流这样做才有效果!
ChatGPT破解中文版(无限次数)电脑版畅享AI智慧,打破语言壁垒,ai新建黑色
SEO优化是什么意思?揭秘网站排名的秘密武器
SEO优化高手,带你从零到一,快速提升网站排名!
SEO与网络推广:企业数字化转型的必备利器
远离窃取用户隐私的APP
AI写文章关键词:智能写作的未来与应用
蒙文章在线制作:轻松创建高质量文章,释放你的写作潜能,ai怎么设置默认颜色
什么是AI工具?让你领先一步的智能助手,彩色鹦鹉ai
高效创作之路:文章AI生成器的力量
SEO实现:如何通过SEO优化提升网站流量与排名,南京市公司网站推广
如何借助SEO写作工具提升网站流量和排名,ai伙伴交互
SEO岗位学什么专业?这些专业技能,助你快速入行!,ai聊天软件小众
ChatGPT付款银行卡被拒绝?解决方案全解析!,ai里怎么改分辨率
互联网伪原创:如何巧妙应对信息泛滥时代的内容创作难题,ai异型旗子
信息词与商业词的SEO区别:如何优化提升网站流量,大米ai ai
引流变现案例分享:我是如何打造一个年赚百万的社群的!
SEO优化网络推广:助力企业提升网络曝光与市场竞争力
文章写作AI:让创作更高效、精准的智能助手
AI会生成同一篇文章吗?揭开智能创作的神秘面纱
文字生成AI:开启创意写作的新纪元
AI写作生成标题软件:打造您的专属“爆款标题”神器!
AI缩短短文-提升创作效率,写作新体验,大理拍照ai