微软Win11电脑本地运行DeepSeek

发布时间:2025-01-31 12:38:30 来源:互联网

在人工智能与边缘计算的交汇点上,微软近日迈出了重要一步,宣布推出专为NPU(神经处理单元)优化的DeepSeek-R1模型。这一创新之举不仅标志着微软对边缘计算潜力的深刻洞察,也预示着搭载高通骁龙X芯片的Copilot+ PC将率先迎来一场技术革命,随后英特尔酷睿Ultra 200V等平台也将陆续加入这一行列。

微软通过官方渠道宣布,DeepSeek-R1的首个版本——DeepSeek-R1-Distill-Qwen-1.5B,已正式入驻Azure AI Foundry和GitHub,供开发者下载使用。同时,微软还透露,参数规模更大的7B和14B版本也即将面世,这将极大地助力开发者充分挖掘Copilot+ PC中NPU的强大性能。

DeepSeek-R1模型应用场景

微软强调,Copilot+ PC上的NPU开创了一种全新的AI应用范式。在这一范式下,生成式AI不仅能够在被调用时迅速响应,还能支持半连续运行的服务模式。这一特性使得开发者能够利用AI推理引擎,构建出更加主动、持续的用户体验。

为了实现这一目标,微软在Phi Silica项目的基础上,积累了丰富的推理优化经验和技术。这些经验和技术被巧妙地融入到针对NPU优化的DeepSeek模型中,包括模型分割以实现性能与效率的最佳平衡、低比特率量化以及Transformer模型到NPU的映射等。微软还借助Windows Copilot Runtime(WCR)和ONNX QDQ格式,在多样化的Windows生态系统中实现了模型的广泛部署。

DeepSeek模型优化对比

为了让更多开发者能够轻松体验DeepSeek模型的魅力,微软提供了便捷的下载途径。只需在Visual Studio Code中安装AI Toolkit扩展,开发者即可轻松获取这一创新成果。同时,以ONNX QDQ格式优化的DeepSeek模型也将很快出现在AI Toolkit的模型目录中,供开发者直接从Azure AI Foundry中拉取使用。

原始模型与NPU优化模型响应对比

微软还通过实例展示了原始模型与NPU优化模型之间的差异。在相同的提示下,原始模型和NPU优化模型给出了略有不同的响应。这一对比不仅彰显了NPU优化模型在推理能力上的提升,也进一步验证了微软在模型优化方面的深厚实力。

本周热门教程

1
《别c我⋯啊⋯别揉了啊》动漫:情感与成长交织的复杂情节解析

《别c我⋯啊⋯别揉了啊》动漫:情感与成长交织的复杂情节解析

2024/11/20

2
《家族轮换》第二部:角色命运交错与情感纠葛,深度探讨人性与家庭的复杂关系

《家族轮换》第二部:角色命运交错与情感纠葛,深度探讨人性与家庭的复杂关系

2024/11/15

3
如何从“每天都在挨龠中度过”的困境中解脱出来?浮白曲的音乐背后有何深刻启示?

如何从“每天都在挨龠中度过”的困境中解脱出来?浮白曲的音乐背后有何深刻启示?

2024/12/25

4
男同被到爽流动漫推荐:探索最具吸引力的男同题材动漫作品

男同被到爽流动漫推荐:探索最具吸引力的男同题材动漫作品

2024/11/20

5
抹布文双男主多人设定的剧情魅力为何如此吸引人?

抹布文双男主多人设定的剧情魅力为何如此吸引人?

2024/10/30

6
97视频:为何它成为影视爱好者的首选平台

97视频:为何它成为影视爱好者的首选平台

2025/01/23

7
国精产品天美一区:探索国精产品在天美一区的市场机遇与发展前景

国精产品天美一区:探索国精产品在天美一区的市场机遇与发展前景

2025/01/18

8
如何免费下载安装十八模1.1.3?详细教程及注意事项

如何免费下载安装十八模1.1.3?详细教程及注意事项

2024/11/01

9
骨科全是车兄妹,背后隐藏着怎样的医疗现象和社会意义?

骨科全是车兄妹,背后隐藏着怎样的医疗现象和社会意义?

2024/11/12

10
为什么曝18免费视频下载被禁止?分析背后的法律、道德和技术原因

为什么曝18免费视频下载被禁止?分析背后的法律、道德和技术原因

2024/11/14