前言
最近deepseek的r1深度思考模型不是很火吗,能显示思考过程很吸引我,于是我就想着试试,但是可能是用的人比较多,导致服务器可能比较拥挤就想着自己部署,以下为Windows教程
准备
打开ollama官方下载网站,选择Windows版下载

下载按照步骤进行安装
PS:这东西默认是C盘,包括后面下载的模型,所以请确保c盘有足够的空间
下载模型
打开cmd,输入ollama,确保有输出

然后打开 这里 ,选择适合自己的蒸馏模型大小

这里列表里有许多大小的模型可选,右边既是他所对应的大小,我这里推荐14b的,大小合适速度够用,点击右边的的复制按钮,把他粘贴到cmd并回车,即可下载模型

我这里已经下载好了,所以直接弹出对话框了,然后就可以enjoy~

后续如果想继续使用,输入ollama就能看到所有的命令,再输入
ollama list

就能看到已经下载的模型,然后复制模型名称,输入
ollama 复制的模型名字
然后就能来到对话框
模型切换也是同理,可以输入exit或按键盘上的ctrl+D退出,然后重复上面的步骤即可
总结
相比于原来deepseek来说速度肯定不如,但至少本地能用,简单的用用还是没问题的,从这里也能看到我们国家的进步飞快,已经能够吊打gpt4o了

快去enjoy吧
Comments NOTHING