微软Copilot+ PC实现新突破,本地运行DeepSeek 7B和14B大模型

发布时间:2025-03-05 12:52:58 来源:互联网

微软近日宣布了一项重要进展,正式为Copilot+ PC引入了DeepSeek-R1的7B和14B蒸馏模型,这一功能通过Azure AI Foundry平台实现。此举标志着微软在将AI能力进一步融入个人电脑方面迈出了关键一步。

早在今年年初,微软便透露了将DeepSeek-R1模型的NPU优化版本引入搭载高通骁龙X处理器的Copilot+ PC的计划。如今,这一承诺已如期兑现,为用户带来了更为强大的本地AI运算能力。

据微软官方博客介绍,这一新功能将首先从搭载高通骁龙X处理器的Copilot+ PC开始部署,随后将逐步扩展到英特尔酷睿Ultra 200V和AMD锐龙系列的设备。这意味着,越来越多的用户将能够享受到由AI带来的便捷与高效。

由于DeepSeek模型运行在NPU上,这大大减轻了对PC电池续航和散热性能的压力。同时,用户能够持续获得强大的AI计算能力,而CPU和GPU则可以专注于执行其他任务,从而提升了整体系统的运行效率。

微软在模型优化方面下足了功夫。他们使用了内部开发的Aqua自动量化工具,成功将所有DeepSeek模型的变量量化为int4权重。然而,目前模型的标记速度尚有待提高。据微软报告,14B模型的标记速度仅为8 tok/秒,而1.5B模型的标记速度则接近40 tok/秒。不过,微软表示他们正在积极优化,以期进一步提高速度。

对于开发者而言,这一新功能无疑是一个利好消息。他们现在可以通过AI Toolkit VS Code扩展,在Copilot+ PC上轻松下载和运行DeepSeek模型的1.5B、7B和14B版本。这将为他们提供更加丰富的AI工具,助力他们开发出更加智能、高效的应用程序。

本周热门攻略

1
91看片:平台面临的法律、道德与安全问题未来如何应对挑战

91看片:平台面临的法律、道德与安全问题未来如何应对挑战

2025/02/02

2
jm漫画网页版入门 jm漫画网页版传送门

jm漫画网页版入门 jm漫画网页版传送门

2024/10/08

3
工厂生产秩序混乱,员工道德沦丧问题严重

工厂生产秩序混乱,员工道德沦丧问题严重

2024/11/03

4
探索free性满是HID老太婆的神秘世界:揭秘背后的故事与真相

探索free性满是HID老太婆的神秘世界:揭秘背后的故事与真相

2025/03/01

5
亚欧一二三四区:区域划分与国际合作的深远影响

亚欧一二三四区:区域划分与国际合作的深远影响

2024/11/07

6
日韩一二三区的地理、经济与文化影响力:未来挑战与机遇如何面对?

日韩一二三区的地理、经济与文化影响力:未来挑战与机遇如何面对?

2025/02/25

7
51吃瓜揭秘:台北娜娜的汉字故事,背后隐藏着怎样的秘密?

51吃瓜揭秘:台北娜娜的汉字故事,背后隐藏着怎样的秘密?

2024/12/19

8
如何在AE中高效进行一级视频片段选节的实用技巧?

如何在AE中高效进行一级视频片段选节的实用技巧?

2024/11/01

9
四虎网站会如何影响未来的互联网资源分享模式?

四虎网站会如何影响未来的互联网资源分享模式?

2025/02/24

10
我爱搞-52G.APP:一款集娱乐、社交与智能推荐于一体的多功能应用平台

我爱搞-52G.APP:一款集娱乐、社交与智能推荐于一体的多功能应用平台

2025/01/09