当前位置: 首页 > 新闻动态 > 科技资讯

AMD:AI 9 HX 375 处理器在 LM Studio 中 Token 生成速度比英特尔酷睿 Ultra 7 258V 快 27%

作者:心靈之曲 浏览: 发布日期:2024-10-31
[导读]:本站10月30日消息,AMD刚刚发布了一篇博客,讲述了其RyzenAI300系列移动处理器在本地大语言模型(LLM)性能方面的突破。据称,锐龙AI9HX375处理器在LMStudio(一款用于本地下载和托管LLM的桌面应用,基于llama.cpp,允许用AVX2指令来进行CPU加速)进行了测试,相比英特尔酷睿Ultra7258V更快。AMD在此次测试中使用了MetaLlama3.2的1b和3b模型、微软Phi3.14kMiniInstruct3b模型、谷歌Gemma29b和Mistral的Nem

本站 10 月 30 日消息,amd 刚刚发布了一篇博客,讲述了其 ryzen ai 300 系列移动处理器在本地大语言模型(llm)性能方面的突破。

据称,锐龙 AI 9 HX 375 处理器在 LM Studio(一款用于本地下载和托管 LLM 的桌面应用,基于 llama.cpp,允许用 AVX2 指令来进行 CPU 加速)进行了测试,相比英特尔酷睿Ultra 7 258V 更快。

AMD 在此次测试中使用了 Meta Llama 3.2 的 1b 和 3b 模型、微软 Phi 3.1 4k Mini Instruct 3b 模型、谷歌 Gemma 2 9b 和 Mistral 的 Nemo 2407 12b 模型,其中英特尔平台采用了8533 MT/s 内存,而 AMD 平台则为 7500 MT/s。

如图所示,AI 9 HX 375 上述五个大模型的测试中都比 Ultra 7 258V 更快,无论是速度还是开始输出文本的时间,优势最大时领先幅度达到了 27%。

本站提醒,英特尔 Ultra 7 258V 处理器与 HX 375 并不完全对等,其中 258V 属于中高端产品,而HX 375 属于旗舰型号,AMD 直接对比似乎有点不公平。

当然,LM Studio 同样支持GPU 加速功能,而且 LM Studio 还支持 Vulkan API 进行 GPU 加速。在启用 GPU 加速后,AI 9 HX 375 比不使用 GPU 加速时快了 20%。

免责声明:转载请注明出处:http://www.sczxchw.cn/news/289388.html

扫一扫高效沟通

多一份参考总有益处

免费领取网站策划SEO优化策划方案

请填写下方表单,我们会尽快与您联系
感谢您的咨询,我们会尽快给您回复!