联系管理员

开通文章发布权限

扫码 添加微信
微信图片
电话: QQ:3810899917

DeepSeek本地部署保姆级教程

本期教程主要讲2种方法部署DeepSeek,1种通过Api调用,只因个人电脑只能运行蒸馏阉割版的小模型,671B满血版只能通过调用Api来实现,第2种通过下载开源模型调用,可完全离线使用

Api获取

推荐硅基流动x华为云推出的API,支持满血版DeepSeek-R1-671B模型
https://cloud.siliconflow.cn/i/tYbzCiyE
价格超便宜,1M Tokens,大概为100W汉字
图片#B #S #R #60% #auto
可以邀请好友白嫖千万Tokens,每邀请一位好友,邀请人与好友均可获赠2000万Tokens,实现亿万Tokens不是梦
图片#B #S #R #60% #auto
图片#B #S #R #60% #auto
图片#B #S #R #60% #auto
图片#B #S #R #60% #auto

安装Cherry Studio

通过下方链接进入Cherry Studio官网
https://cherry-ai.com/
图片#B #S #R #60% #auto
图片#B #S #R #60% #auto
图片#B #S #R #60% #auto
修改下安装路径,不要安装到C盘,以免造成系统卡顿,安装路径不要有中文
图片#B #S #R #60% #auto

Cherry Studio使用指南

安装成功后,打开软件界面如下所示
图片#B #S #R #60% #auto
点击设置,再点击模型服务,选择硅基流动,将api密钥复制进去,再点击管理
图片#B #S #R #60% #auto
这里有非常多模型,包括DeepSeek-R1模型,想用哪个模型,直接点后面的+号即可
图片#B #S #R #60% #auto
再点击嵌入模型,将最后一个也加上,后面调取本地知识库需要用到
图片#B #S #R #60% #auto
添加完api密钥,即可完美使用
图片#B #S #R #60% #auto
点击这里,可以切换模型
图片#B #S #R #60% #auto
添加的模型都会在这里显示
图片#B #S #R #60% #auto

调用本地知识库

点击左侧栏目的知识库,默认里面是空的,点击添加,即可添加知识库
图片#B #S #R #60% #auto
名字随意写,点击确定,就会有一个知识库存在这,可以往里面添加本地文件,形成自己的知识库
图片#B #S #R #60% #auto
图片#B #S #R #60% #auto
使用的时候,只需要勾选中这里的知识库就行
图片#B #S #R #60% #auto
图片#B #S #R #60% #auto

DeepSeek 开源模型备用下载地址

百度网盘下载地址:
链接: https://pan.baidu.com/s/1LGtgdJiyYAPi8EJXNhX3CQ?pwd=9fw8 提取码: 9fw8
目前放了常用的3个模型,费了我老大功夫了,太费时间了,后续会将更多模型放到网盘
显存16-24G,选择32B的;
显存8-16G的,选择14B;
显存4-8G的,选择8B;
图片#B #S #R #60% #auto

 

相关文章

【付费阅读演示】6 款大模型官宣后,生成式 AI 淘汰赛的号角正式吹响了
亚马逊云科技在 2024 年的 re:Invent 大会上发布了自研的 Amazon Nova 系列六款基础模型,包括多模态和文本处理模型。这些模型在性能、成本和推理速度上表现出色,具有极高的性价比。Amazon Bedrock 的更新引入了模型蒸馏和自动化推理检查功能,以提高模型的效率和准确性。此外,Trainium2 和 NeuronLink 技术的推出进一步提升了 AI 应用的基础设施能力。Amazon Q Developer 的增强则为开发者提供了更高效的编程支持。这些创新标志着亚马逊在生成式 AI 领域的领先地位,并推动行业进入“能用、好用、用得起”的新阶段。
新手必备!养“金渐层”须知的10个注意事项!
金渐层猫,以其独特的外貌和温顺的性格,赢得了无数宠物爱好者的青睐。如果你准备迎接一只金渐层猫,恭喜你!但在开始之前,了解一些养猫的基本知识和注意事项是必不可少的。今天,我就为你整理了养金渐层猫的十大忠告,让你的养猫之旅更加顺利!🐱✨
金渐层为何是猫界的“香饽饽”?网友:优点太多数不过来!
金渐层因稀有、高颜值、性格友好、饲养体验好、适应力强、智商高通人性而受欢迎,寓意招财,撸猫手感佳。养护需注意饮食管理、毛发护理、健康管理、互动陪伴及训练引导。
英短金渐层图鉴|英短中的新势力
现在的年轻人都想生猫,那生什么样的哈基米你有想过吗?今天来说说绝大数人都考虑过的毛孩子——英短金渐层,生过的家长,评论区可以分享下生猫经验~

评论

快捷导航

把好文章收藏到微信

打开微信,扫码查看

关闭

还没有账号?立即注册