开云体育

开云APP下载联想单机部署DeepSeek推理性能实现新突破

2025-07-10
浏览次数:
返回列表

  开云体育[永久网址:363050.com]成立于2022年在中国,是华人市场最大的线上娱乐服务供应商而且是亚洲最大的在线娱乐博彩公司之一。包括开云、开云棋牌、开云彩票、开云电竞、开云电子、全球各地赛事、动画直播、视频直播等服务。开云体育,开云体育官方,开云app下载,开云体育靠谱吗,开云官网,欢迎注册体验!

开云APP下载联想单机部署DeepSeek推理性能实现新突破

  中证报中证网讯(记者 孟培嘉)3月17日,联想宣布旗下首款AMD AI大模型训练服务器联想问天WA7785a G3在单机部署671B(满血版)DeepSeek大模型时,可实现极限吞吐量6708token/s,将单台服务器运行大模型的性能推向新高。

  据悉,依托联想万全异构智算平台,联想通过访存优化、显存优化、PCIe 5.0全互联架构创新以及精选SGLang框架中性能最优算子等诸多创新方式,对大模型从预训练、后训练到推理的全流程进行持续优化,在模拟问题对话场景时,最高可支持并发数158,TPOT 93毫秒,TTFT 2.01秒;而在模拟代码生成时,并发数可达140,TPOT 100毫秒,TTFT 5.53秒。

  这一成绩意味着,单台联想问天WA7785a G3可以支撑1500人规模企业的正常使用,是继联想问天WA7780 G3服务器单机部署满血版DeepSeek大模型总吞吐量突破2500 token/s后,单机部署该大模型推理性能的又一次突破。

  中证网声明:凡本网注明“来源:中国证券报·中证网”的所有作品,版权均属于中国证券报、中证网。中国证券报·中证网与作品作者联合声明,任何组织未经中国证券报、中证网以及作者书面授权不得转载、摘编或利用其它方式使用上述作品。

  武汉宏海科技股份有限公司向不特定合格投资者公开发行股票并在北交所上市网上路演

  全国政协委员、证监会处罚委办公室一级巡视员罗卫建议:加快出台背信罪司法解释

搜索