开云体育
开云体育国产壁仞GPU闪电支持DeepSeekAI模型升级只需数小时!
在科技行业迅猛发展的今天,DeepSeek开源大模型的问世无疑是行业内的一次重大革新。这一颠覆性技术的推出,令许多平台急忙跟进适配,国产GPU亦不例外。继摩尔线程和华为昇腾之后,壁仞科技也在第一时间加入了这一行列。
壁仞科技最近宣布,凭借其自研的壁砺系列GPU的卓越兼容性,仅用数个小时,就实现了对DeepSeek R1全系列蒸馏模型的支持,这个支持涵盖了从1.5B到70B各参数版本的模型,包括热门的LLaMA和千问蒸馏模型。这一成就使壁仞科技成为了少数能够高效适配国际、国内多种模型的芯片平台之一,充分展示了国产芯片在处理复杂AI应用任务方面的潜力。
DeepSeek 得益于其高效的模型蒸馏技术,能够将庞大的模型能力迁移至更为小巧、高效的版本。凭借其核心技术MLA和DeepSeekMoE,该平台显著减少了显存占用,提高了模型的性能。壁仞科技的壁砺系列GPU在短时间内成功支持DeepSeek全系列蒸馏模型,展示出其在AI推理任务中的强大兼容性和易用性。
壁仞科技还与上海智能算力、中兴通讯、科华数据、无问芯穹等多家合作伙伴联手,基于壁砺系列产品106M、106B、106E、110E,深入开展包括R1在内的DeepSeek全系列模型的适配与上线。这一合作旨在满足不同规模参数需求的模型部署,包括轻量级模型(1.5B-8B)适配智能终端与边缘计算设备,实现低延时实时推理;中大规模模型(14B-32B)服务于企业级应用与高并发任务,确保数据安全与个性化需求;更有大规模模型(70B),依托云端超算集群,推动前沿AI研究与复杂任务处理。
如今,壁仞AI算力平台已经正式上线蒸馏模型推理服务,全球开发者可以通过云端体验1.5B、7B、8B、14B、32B、70B等全系列模型。体验入口为:。该服务具备两大核心优势:一是零部署成本,用户可以免去硬件采购和环境搭建,享受“开箱即用”的云端推理体验;二是多任务场景覆盖,提供针对LLM及其他任务的预置优化配置方案,让用户畅享AI应用的乐趣。返回搜狐,查看更多