联系管理员

开通文章发布权限

扫码 添加微信
微信图片
电话: QQ:3810899917

DeepSeek本地部署保姆级教程

本期教程主要讲2种方法部署DeepSeek,1种通过Api调用,只因个人电脑只能运行蒸馏阉割版的小模型,671B满血版只能通过调用Api来实现,第2种通过下载开源模型调用,可完全离线使用

Api获取

推荐硅基流动x华为云推出的API,支持满血版DeepSeek-R1-671B模型
https://cloud.siliconflow.cn/i/tYbzCiyE
价格超便宜,1M Tokens,大概为100W汉字
图片#B #S #R #60% #auto
可以邀请好友白嫖千万Tokens,每邀请一位好友,邀请人与好友均可获赠2000万Tokens,实现亿万Tokens不是梦
图片#B #S #R #60% #auto
图片#B #S #R #60% #auto
图片#B #S #R #60% #auto
图片#B #S #R #60% #auto

安装Cherry Studio

通过下方链接进入Cherry Studio官网
https://cherry-ai.com/
图片#B #S #R #60% #auto
图片#B #S #R #60% #auto
图片#B #S #R #60% #auto
修改下安装路径,不要安装到C盘,以免造成系统卡顿,安装路径不要有中文
图片#B #S #R #60% #auto

Cherry Studio使用指南

安装成功后,打开软件界面如下所示
图片#B #S #R #60% #auto
点击设置,再点击模型服务,选择硅基流动,将api密钥复制进去,再点击管理
图片#B #S #R #60% #auto
这里有非常多模型,包括DeepSeek-R1模型,想用哪个模型,直接点后面的+号即可
图片#B #S #R #60% #auto
再点击嵌入模型,将最后一个也加上,后面调取本地知识库需要用到
图片#B #S #R #60% #auto
添加完api密钥,即可完美使用
图片#B #S #R #60% #auto
点击这里,可以切换模型
图片#B #S #R #60% #auto
添加的模型都会在这里显示
图片#B #S #R #60% #auto

调用本地知识库

点击左侧栏目的知识库,默认里面是空的,点击添加,即可添加知识库
图片#B #S #R #60% #auto
名字随意写,点击确定,就会有一个知识库存在这,可以往里面添加本地文件,形成自己的知识库
图片#B #S #R #60% #auto
图片#B #S #R #60% #auto
使用的时候,只需要勾选中这里的知识库就行
图片#B #S #R #60% #auto
图片#B #S #R #60% #auto

DeepSeek 开源模型备用下载地址

百度网盘下载地址:
链接: https://pan.baidu.com/s/1LGtgdJiyYAPi8EJXNhX3CQ?pwd=9fw8 提取码: 9fw8
目前放了常用的3个模型,费了我老大功夫了,太费时间了,后续会将更多模型放到网盘
显存16-24G,选择32B的;
显存8-16G的,选择14B;
显存4-8G的,选择8B;
图片#B #S #R #60% #auto

 

评论

快捷导航

把好文章收藏到微信

打开微信,扫码查看

关闭

还没有账号?立即注册