北京市西城区文兴东街2号
深圳云开·全站apply体育官方平台,kaiyun登录入口登录APP下载,kaiyun体育平台安全技术股份有限公司
成都市云开·全站apply体育官方平台,kaiyun登录入口登录APP下载,kaiyun体育平台安全实业有限公司
微软助力深度学习:Copilot+PC本地运行7B和14B模型,DeepSeek引领新潮流
随着科技的飞速发展,深度学习已成为人工智能领域的关键驱动力。微软在推动这一领域的发展中发挥了不可或缺的角色,尤其在最近宣布通过Azure AI Foundry接入DeepSeek-R1 7B和14B蒸馏模型,为Copilot+ PC提供本地运行7B和14B模型的能力。这一举措无疑将深度学习带入了更多设备,引领了新的潮流。云开全站·appkaiyun官网
首先,让我们回顾一下DeepSeek的背景开yun体育官网入口登录APP下载。DeepSeek是一种新型的神经网络量化方法,它通过使用Aqua内部自动量化工具,将所有DeepSeek模型变体量化为int4权重。这种量化方法不仅提高了模型的运行效率,还降低了模型的内存占用,使得更多的模型能够在更小的设备上运行。
微软此次承诺将DeepSeek-R1模型的NPU优化版本带到搭载高通骁龙X处理器的Copilot+ PC上,如今这个承诺终于兑现开云真人APP网站。从微软官方博客获知,该模型将从搭载高通骁龙X处理器的Copilot+ PC开始上线,随后是英特尔酷睿Ultra 200V和AMD锐龙的设备。这意味着,无论你使用的是哪种类型的电脑,都有机会体验到深度学习的魅力。
值得注意的是,由于模型运行在NPU上,可以减少对PC电池续航和散热性能的影响,同时持续获得AI计算能力,CPU和GPU可用于执行其他任务云开全站·appkaiyun官网。这无疑是一种平衡性能和功耗的优秀方案,为PC用户提供了更多的选择。
微软在此过程中扮演了关键角色。它使用了Aqua内部自动量化工具,将所有DeepSeek模型变体量化为int4权重,并正在进一步优化提高标记速度。这一举措无疑提升了模型的运行效率,也展示了微软在深度学习领域的专业性和技术实力。
对于开发者来说,使用AI Toolkit VS Code扩展可以在Copilot+ PC上下载和运行DeepSeek模型的1.5B、7B和14B版本。这无疑为开发者提供了更多的选择和灵活性,使得他们能够更好地利用这些模型进行创新性的研究和工作。
总的来说,微软通过Azure AI Foundry接入DeepSeek-R1 7B和14B蒸馏模型,为Copilot+ PC提供本地运行7B和14B模型的能力,标志着深度学习进入了新的阶段。这种新型的量化方法和模型部署方式,将深度学习带入了更多的设备中,为人们的生活和工作带来了更多的便利和可能。
尽管微软在此过程中扮演了关键角色,但我们也要看到,深度学习是一个不断发展的领域,需要来自学术界、工业界和政府的多方努力。我们期待未来微软能够继续在深度学习领域进行更多的探索和创新,为人们的生活和工作带来更多的便利和可能。