本地部署DeepSeek R1小模型

洛娜喵 发布于 2025-02-04 99 次阅读 415 字 预计阅读时间: 2 分钟 最后更新于 2025-02-07


AI 摘要

在深度学习领域,DeepSeek R1小模型正在悄然崛起,因其出色的思考过程展示而备受瞩目。如果你也想体验这种新潮的思维方式,为什么不尝试本地部署呢?本文将带你一步步教你在Windows系统上成功安装并使用这个模型,让你在家也能感受人工智能的魅力。准备好迎接智能世界的崭新挑战了吗?快来看看如何轻松实现吧!

前言

最近deepseek的r1深度思考模型不是很火吗,能显示思考过程很吸引我,于是我就想着试试,但是可能是用的人比较多,导致服务器可能比较拥挤就想着自己部署,以下为Windows教程

准备

打开ollama官方下载网站,选择Windows版下载

下载按照步骤进行安装

PS:这东西默认是C盘,包括后面下载的模型,所以请确保c盘有足够的空间

下载模型

打开cmd,输入ollama,确保有输出

然后打开 这里 ,选择适合自己的蒸馏模型大小

这里列表里有许多大小的模型可选,右边既是他所对应的大小,我这里推荐14b的,大小合适速度够用,点击右边的的复制按钮,把他粘贴到cmd并回车,即可下载模型

我这里已经下载好了,所以直接弹出对话框了,然后就可以enjoy~

后续如果想继续使用,输入ollama就能看到所有的命令,再输入

ollama list

就能看到已经下载的模型,然后复制模型名称,输入

ollama 复制的模型名字

然后就能来到对话框

模型切换也是同理,可以输入exit或按键盘上的ctrl+D退出,然后重复上面的步骤即可

总结

相比于原来deepseek来说速度肯定不如,但至少本地能用,简单的用用还是没问题的,从这里也能看到我们国家的进步飞快,已经能够吊打gpt4o了

快去enjoy吧