手把手教你用【DeepSeek+硅基流动】搭建本地化AI私人助理

DeepSeek很牛,但是基本不能部署到你的电脑上。

DeepSeek很牛,但是不能成为你的专业领域的助理。

官网一直爆火,又有限制。

怎么才能很好的利用deep seek将它打造成我们的私人助理呢?怎么才能实现本地知识库,帮你更好的获取需要的内容?

经过我的探索,我们可以采取云端部署+本地客户端+大模型的方式解决。

主要用到的工具就是【硅基流动】和【Cherry Studio】。

一、Cherry Studio

软件介绍

Cherry Studio 是一款支持多模型服务的 GPT/Claude 客户端,兼容 Windows、macOS 和 Linux 系统。

Cherry Studio 集成了主流的 LLM 云服务和 AI Web 服务,同时支持本地模型运行。

它支持多款先进的 AI 大语言模型,响应速度快,安装简便,无需 Docker 环境或命令行操作。

Cherry Studio 内置超过 300 个大语言模型,可自由切换,适用于开发者、设计师和作家等专业用户,提供代码生成、创意文本生成和文章撰写等功能。它还支持多语言、多主题切换,遵循开源精神,代码公开,方便用户定制和扩展。

下载 Cherry Studio

官网下载。

安装Cherry Studio

双击,在电脑上安装。

二、硅基流动

注册

https://cloud.siliconflow.cn/i/rT5iYy97

点击上面的链接进行注册,官方送你2000万token,用于训练或其他。

选择模型

注册完成之后,我们可以看到模型广场,随便选一个deepseek的模型,也可以在线使用,但这个不是我们的最终目的。


模型广场

获取API

点击左侧的API密钥,按照下图,点击新建API密钥,随便起个名字,新建即可。


点击复制API


随便起个名字


三、搭建本地私人助理

打开Cherry Studio

按照下图的步骤,依次点击,把API密钥粘贴到cherry studio 里面。

把API密钥粘贴到cherry studio 里面

点击设置,选择硅基流动,把刚才复制的密钥粘贴到框框里面,点击最右边的检查。

翻到最下面,点击 管理

点击嵌入,选择bge-m3,点击加号,点击关闭。


嵌入一个模型


选择deep seekR1模型

点击 对话图标,依次选择


到这里,云+本地模式,部署完成,可以使用deepseek了。

但是,距离私人助理,还有一点点距离。

四、构建知识库

点击知识库,添加,随便起个名字,选择刚才嵌入模型,点击确定。


构建知识库

把你的文件、网址、网站、笔记添加到这里即可。

添加知识库

添加文件:点击添加文件的按钮,打开文件选择;

选择文件:选择支持的文件格式,如 pdf,docx,pptx,xlsx,txt,md,mdx 等,并打开;

向量化:系统会自动进行向量化处理,当显示完成时(绿色 ✓),代表向量化已完成。

文件夹目录:可以添加整个文件夹目录,该目录下支持格式的文件会被自动向量化;

网址链接:支持网址 url;

站点地图:支持 xml 格式的站点地图;

纯文本笔记:支持输入纯文本的自定义内容。

当显示绿色 "√" 表示向量化完成,点击 探索知识库按钮即可开始查询


五、使用知识库

回到对话界面,新建一个助手,把他命名为知识库。


新建助手


然后在 助理的聊天界面底部,将知识库打开选中,到此大功告成,可以直接使用了。

在对话界面选择你创建的知识库即可。



不过其实,很多人用不到这个功能,毕竟现在deep seek已经很厉害了,完全可以用他已有的知识库。

其他

Tokens 是大模型处理文本的一个计量单位。就好比一袋苹果,token就是这个“袋”。大模型会把文本细化成不同的token进行处理,不同平台100万个Token的价格是不一样的。

deep seek之所以是deep seek,是因为它是真的便宜。2000万token 一杯奶茶钱,把大模型拉下神坛。



欢迎大家点赞、评论,转发。

举报