首页 资讯 正文

深圳WBG香港邀请赛夺冠,PEL剑指世界杯

体育正文 82 0

深圳WBG香港邀请赛夺冠,PEL剑指世界杯

深圳WBG香港邀请赛夺冠,PEL剑指世界杯

今年年初,DeepSeek AI大模型横空出世,迅速成为科技圈(quān)的热门话题。与此同时,AI PC 也持续进化,步入新的发展(fāzhǎn)阶段。对于众多科技发烧友而言,本地部署大模型的诱惑(yòuhuò)难以抵挡。相较于直接付费(fùfèi)使用成熟 AI 应用,DeepSeek 的完全开源特性,让发烧友们(men)热衷于在本地发挥硬件 AI 性能。 然而,在轻薄笔记本电脑(bǐjìběndiànnǎo)领域,面对本地运行 DeepSeek 大模型这一挑战,不同(bùtóng)品牌(pǐnpái)和平台的表现究竟如何?“轻薄笔记本电脑哪个牌子好”这一问题,也随着本地部署大模型的需求,成为消费者关注的重点(zhòngdiǎn)。 我们找(zhǎo)来当下较新的轻薄本,分别搭载(dāzài)了Intel酷睿Ultra9 285H处理器(chǔlǐqì)和AMD锐龙AI 9 HX370处理器的机型,它们(tāmen)都是各自平台轻薄本能搭载的最强处理器,定位上旗鼓相当。下面,就让(jiùràng)我们一同测试不同平台在本地运行 DeepSeek 大模型的表现,看看“轻薄笔记本电脑哪个牌子好”。 一、测试平台介绍:各有优势 但都是最强移动处理器的(de)竞争者 Intel酷睿Ultra9 285H处理器基于Arrow Lake架构,拥有6个性能(xìngnéng)核,8个能效(néngxiào)核和2个低功耗能效核,一共16核心(héxīn),性能核最大(dà)睿频频(pínpín)率为5.4GHz,拥有24MB高速缓存。它内建Intel锐炫140T显卡,包含8个Xe核心,同时还内置NPU,能够提供高达13 TOPS的(de)算力。CPU+GPU+NPU全平台总算力达到99 TOPS,为本地运行大模型提供了很(hěn)好的支撑。 AMD锐龙(ruìlóng)AI 9 HX370处理器基于Zen 5架构(jiàgòu),4个(gè)Zen 5核心和8个Zen 5c核心,支持超线程技术,总共是12个核心24线程,最高加速频率为5.1GHz,拥有(yōngyǒu)12MB的L2 高速缓存和24MB的L3 高速缓存。内建(nèijiàn)AMD Radeon 890M显卡,包含(bāohán)16个GPU核心。当然也有独立的NPU引擎,而且算力高达55 TOPS。 需要注意的(de)是,Intel酷睿Ultra9 285H处理器(chǔlǐqì)的TDP高达45W,AMD锐龙AI 9 HX370处理器的TDP只有28W。当然,Intel和AMD都允许笔记本制造商根据具体产品设计,在一定范围内(nèi)设定处理器功耗(gōnghào)。 二、DeepSeek-R1模型测试:iGPU算力也(yě)可流畅运行本地(běndì)部署的14B模型 Ollama是一个开源的(de)大(dà)语言部署服务工具,只需iGPU即可部署大模型(móxíng)。此次测试就是基于Ollama框架,在本地部署DeepSeek-R1的蒸馏版模型,测试使用iGPU的运行(yùnxíng)效率。Ollama作为一个开源软件(ruǎnjiàn),功能依赖全球开发者的共同维护,会有一些特别的分支。 此次(cǐcì)测试,专门找来了针对 intel 推理框架和(hé)AMD ROCm推理框架分别优化过的(de)Ollama版本,更能体现Intel和AMD硬件在各自最佳环境下的运行效率。 (左侧(zuǒcè)为Intel酷睿(kùruì)Ultra9 285H运行截图,右侧为AMD锐龙AI 9 HX370运行截图) 为了(wèile)(le)避免图形UI造成的延迟和对性能的影响,我们直接在(zài)命令行中同DeepSeek-R1:14B模型进行对话,准备了4个问题,分别是: “你是(shì)谁?”最简单的问题,用来检查DeepSeek大(dà)模型是否正确工作。 “模仿李白的风格,写一首七律·登月。”简单(jiǎndān)的文字写作能力。 “一亿之内(zhīnèi)最大的质数是多少?”数学能力其实不是DeepSeek这种推理模型的长处(chángchù),但也可以测试一下。 “帮我写一份5月份前往南疆的(de)旅行(lǚxíng)攻略。”对DeepSeek的语义理解/推理能力和文字写作能力进行测试。 同样还对DeepSeek-R1大模型另外两个(liǎnggè)更小规模的蒸馏版本7B和1.5B,也都进行(jìnxíng)了测试,测试成绩汇总如下: 模型(móxíng)规模越小,执行速度越快,但(dàn)相对的AI智力下降也非常明显(fēichángmíngxiǎn),经常会出现无法回答或者先入(xiānrù)死循环的状态。14B规模的模型的反应速度和回答准确率表现都比较优秀,在测试平台上运行效果非常好(但数学问题的回答准确度还是不太行)。 从测试结果(jiéguǒ)上来看(láikàn),Intel酷睿Ultra9 285H在针对Intel优化过的Ollama上的每秒token输出更高(gènggāo)一些,在14B和7B规模模型中,对比AMD锐龙(ruìlóng)AI 9 HX370都有40%左右的领先,而(ér)在1.5B规模模型中,Intel平台仍有5%左右的优势。 从实际测试的结果上来看,针对Intel 优化过的框架确实拥有(yōngyǒu)更好的支持,让Intel处理器的性能表现(biǎoxiàn)更强。 三(sān)、AI大模型能力测试:Deepseek-R1:14B模型编程(biānchéng)已经实用 我们也测试了一下Deepseek-R1:14B模型在Intel酷睿Ultra9 285H处理器的轻薄(qīngbó)本上实际表现(biǎoxiàn),看看使用本地Intel iGPU算力来编程(biānchéng),效果如何。 首先安装了一个针对Intel酷睿Ultra处理器优化的AI应用工具:Flowy AI PC软件(ruǎnjiàn),然后在其中使用Deeoseek-R1:14B模型(móxíng)来编写一个基于HTML语言(yǔyán)的贪吃蛇游戏(yóuxì)。 按照(ànzhào)Deepseek给出的操作说明,很容易就可以把这个由AI写出来的贪吃蛇游戏运行(yùnxíng)起来。Intel酷睿Ultra9 285H处理器搭配Deepseek-R1:14B模型,能力具备一定实用价值(shíyòngjiàzhí),可以帮助用户提高编程速度和(hé)工作效率。 四(sì)、总结:Intel 全力推广(tuīguǎng)OpenVINO 效果已经开始展现 得益于DeepSeek的开源,让(ràng)本地部署AI大模型变的前所未有的容易,即使是在轻薄本这种并不以性能见长的移动平台上,运行(yùnxíng)本地大模型也(yě)能有相当不错的性能表现。 在测试(cèshì)中(zhōng),Intel酷睿Ultra9 285H处理器展现出相当强劲的实力,使用开源部署工具Ollama(Intel优化版),在本地部署DeepSeek-R1:14B,仅依靠(yīkào)CPU的算力,就可以实现接近10 Token/s的输出速度,比AMD锐龙AI 9 HX370处理器的输出高了40%以上,而且这个(zhègè)成绩还是在CPU实际(shíjì)功率相差接近一倍的情况下得出(déchū)的。 这也从一个侧面说明,AI大模型的高效运行,不仅仅是硬件性能的问题,软件的适配同样(tóngyàng)重要,甚至(shènzhì)比硬件性能更重要一些。 Intel全力推广OpenVINO成效初显,也许硬件的真实性能(néng)(néng)强弱难以量化比较,但从此次测试结果来看,Intel酷睿Ultra9 285处理器(chǔlǐqì)在用户实际使用中,确实能发挥出比AMD锐龙AI 9 HX370处理器更强的性能。再加上Intel连续举办的人工智能创新应用(yìngyòng)大赛,以资金鼓励开发者,使得基于OpenVINO的AI应用日益丰富,促进了AI生态系统(shēngtàixìtǒng)的繁荣(fánróng)。 轻薄笔记本电脑(bǐjìběndiànnǎo)哪个牌子好?对于(duìyú)科技爱好者而言,在(zài)选择轻薄笔记本电脑时,可以考虑搭载最新Intel处理器的品牌机型,不仅能(néng)享受到当下卓越的AI应用体验,更能率先拥抱未来AI计算的各种可能性。
深圳WBG香港邀请赛夺冠,PEL剑指世界杯

欢迎 发表评论:

评论列表

暂时没有评论

暂无评论,快抢沙发吧~