开云体育

开云体育官方本地部署AI大模型的挑战与机遇:Intel酷睿Ultra 285H与DeepSeek AI的完美结合

2025-06-09
浏览次数:
返回列表

  开云体育[永久网址:363050.com]成立于2022年在中国,是华人市场最大的线上娱乐服务供应商而且是亚洲最大的在线娱乐博彩公司之一。包括开云、开云棋牌、开云彩票、开云电竞、开云电子、全球各地赛事、动画直播、视频直播等服务。开云体育,开云体育官方,开云app下载,开云体育靠谱吗,开云官网,欢迎注册体验!

开云体育官方本地部署AI大模型的挑战与机遇:Intel酷睿Ultra 285H与DeepSeek AI的完美结合

  随着人工智能技术的飞速发展,尤其是今年年初DeepSeek AI大模型的横空出世,逐渐引发了广泛的关注。人们对能够在本地进行大模型部署的兴趣日益浓厚,尤其是对于那些硬件性能不断提升的发烧友而言。DeepSeek AI的开源特性使得越来越多的人愿意尝试在自己的设备上进行部署,来体验强大AI性能带来的便利。然而,在主流笔记本平台上,如何有效地运行DeepSeek大模型,成为了一个重要的课题。

  我们特别选择了更新的轻薄笔记本,分别搭载Intel和AMD的强大处理器,来对比它们在本地运行DeepSeek大模型的表现。需要指出的是,由于DeepSeek-R1模型的完整版本参数庞大,高达671个billion,我们只能使用它蒸馏版的模型。好在DeepSeek提供了多种不同规模的小模型,方便用户根据自己的硬件逐步选择合适的配置。在这过程中,内存的容量将是是否能顺利进行本地部署的关键因素之一。

  随着AIPC(AI Personal Computer)概念的兴起,电脑内存的标准几乎从32GB起步,大家普遍意识到即便是苹果等品牌也已经将其最新的产品Mac Mini升级至16GB起步的内存,以适应这股潮流。

  由于条件所限,我们并未找到两全对等的笔记本进行直接对比,而是选择了相近配置的设备,搭载了Intel酷睿Ultra 9285H处理器和AMD锐龙AI9HX370处理器。这两款处理器均可视为各自平台中的顶尖之作。Intel酷睿Ultra9285H基于ArrowLake架构,具备6个性能核、8个能效核和2个低功耗能效核,共16个核心,但不支持超线MB高速缓存,同时拥有内建Intel锐炫140T显卡,其算力高达99TOPS。

  与之相比,AMD锐龙AI9HX370的架构为Zen5,构建了4个Zen5核心与8个Zen5c核心,支持超线个线TOPS的算力。值得强调的是,Intel的TDP达到了45W。我们测试的笔记本来自不同型号,Intel的轻薄本在烤机测试中稳定释放功率约35W,而AMD的全能本在散热表现上更为出色,能够释放最高60W的功率。

  在本次测试中,我们采用Ollama作为开源部署工具,对DeepSeek-R1的蒸馏版模型进行体验。Ollama不仅依赖于全球开发者的维护,还针对Intel和AMD分别推出了经过优化的版本。在测试中,我们通过命令行与DeepSeek-R1模型进行交互,提出了四个问题,以评测模型的各方面表现。通过结果和数据汇总,我们得出结论,模型的规模与响应能力直接相关。

  相较之下,14B规模的模型表现出色,能够在机上进行流畅的交互,而1.5B规模的模型在准确率上虽有一定不足,却也能完成基本任务。对于Bibliette损失模型,利用iGPU进行编程,效果同样令人满意。

  我们还评测了DeepSeek-R1模型在Intel酷睿Ultra9285H处理器上的表现,采用FlowyAIPC这款针对Intel酷睿优化的AI应用工具,使用DeepSeek-R1模型实现了基于HTML语言的贪吃蛇游戏编写。尽管游戏较为简单,但基本功能顺利实现,显示出AI编程在提高效率方面的实用性。

  DeepSeek模型的开源特性让本地 AI 大模型部署变得如此轻松,即使在轻薄本这样的移动平台上,依旧能够展现出非凡的性能。测试结果显示,Intel酷睿Ultra9285H处理器通过Ollama(针对Intel优化版)的支持,能够实现接近10Tokens/s的输出速度,领先于AMD产品40%左右,且在实际功率上差距明显。

  这次体验表明,AI大模型的有效运行并非仅依赖于硬件性能,适配的软件同样至关重要。尽管Intel和AMD都在不断竞逐,当前Intel的推广取得了一定成效。随着不断举办的AI创新应用大赛,利用OpenVINO框架的开发者正迎来更广阔的创新殿堂。值得期待的,是在未来的AIPC时代,谁将在激烈的竞争中脱颖而出,成为真正的王者。返回搜狐,查看更多

搜索