本地Deepseek添加个人知识库(Page Assist/AnythingLLM)

可点击广告图

本地Deepseek两种方法建立知识库
前言 (及个人测试结论)
法一、在Page Assist建立知识库
step1 下载nomic-embed-text

ollama官网->models->nomic-embed-text

本地Deepseek添加个人知识库(Page Assist/AnythingLLM)插图

cmd进终端输入(依然默认进了系统盘)ollama pull nomic-embed-text

本地Deepseek添加个人知识库(Page Assist/AnythingLLM)插图1

我下了几次,前几次都下完没显示success,只有跳success后

下载完成,进Page Assist的设置->RAG设置->文本嵌入模型:nomic-embed-text
step2 加载进Page Assist

刷新Page Assist的设置页面,文本嵌入模型 才会有显示

本地Deepseek添加个人知识库(Page Assist/AnythingLLM)插图2

step3 添加知识

管理知识->添加知识

本地Deepseek添加个人知识库(Page Assist/AnythingLLM)插图3

我添加了一篇论文,进行测试,添加后,稍等一下,状态就会变成已完成。

本地Deepseek添加个人知识库(Page Assist/AnythingLLM)插图4

step4 对话框添加知识库

回到首页,添加知识库

本地Deepseek添加个人知识库(Page Assist/AnythingLLM)插图5法二、在AnythingLLM建立知识库

在本地已经部署deepseek的基础上进行。
还需要先去下载一个下载nomic-embed-text。
准备工作
1.下载nomic-embed-text

ollama官网->models->nomic-embed-text

本地Deepseek添加个人知识库(Page Assist/AnythingLLM)插图6

cmd进终端输入(依然默认进了系统盘)ollama pull nomic-embed-text

下载完成,进Page Assist的设置->RAG设置->文本嵌入模型:nomic-embed-text

本地Deepseek添加个人知识库(Page Assist/AnythingLLM)插图7

我下了几次,前几次都下完没显示success,只有跳success后才是真的成功。

2.下载AnythingLLM

下载地址:AnythingLLM
安装速度 比想象中的慢 ~ 很 ~ 多 ~

本地Deepseek添加个人知识库(Page Assist/AnythingLLM)插图8

安装后,经过一大段导航(不停的点下一页),进入页面。

本地Deepseek添加个人知识库(Page Assist/AnythingLLM)插图9

3.创建工作区,进行设置

本地Deepseek添加个人知识库(Page Assist/AnythingLLM)插图10

3.1 聊天设置设置

聊天设置选择ollama,deepseek。
然后要拉到最下面点“Update workspace”

本地Deepseek添加个人知识库(Page Assist/AnythingLLM)插图11

3.2 向量数据库

向量数据库 :喂给ds的文档,他会变成向量,向量的大小
暂时不设置

3.3 代理配置

选择ollama,自己之前部署的模型,然后点== “Update workspace”==

本地Deepseek添加个人知识库(Page Assist/AnythingLLM)插图124.进入软件设置

设置完模型,还需要一个能够把”文本转变成ds读取的向量“的模型。所以需要回到大的设置

本地Deepseek添加个人知识库(Page Assist/AnythingLLM)插图13

顺手修改下ds思考的语言。

本地Deepseek添加个人知识库(Page Assist/AnythingLLM)插图14

4.1 向量数据库

用默认的LanceDB就行

本地Deepseek添加个人知识库(Page Assist/AnythingLLM)插图15

4.2.嵌入首选项

选择ollama, nomic-embed-text。点击保存

本地Deepseek添加个人知识库(Page Assist/AnythingLLM)插图16

上传文档

本地Deepseek添加个人知识库(Page Assist/AnythingLLM)插图17

上传60多兆的pdf教材,报错了(我怀疑是 要修改下读取的参数值,我先试试)。
上传几兆的文献成功了。

本地Deepseek添加个人知识库(Page Assist/AnythingLLM)插图18

点save and embed

本地Deepseek添加个人知识库(Page Assist/AnythingLLM)插图19

测试

本地Deepseek添加个人知识库(Page Assist/AnythingLLM)插图20

扩展:AnythingLLM用ds的api,结合上传的知识库回答问题如何设置
step1.

记得要拉到最下面保存。

本地Deepseek添加个人知识库(Page Assist/AnythingLLM)插图21

step2.

本地Deepseek添加个人知识库(Page Assist/AnythingLLM)插图22

step3.进总设置

本地Deepseek添加个人知识库(Page Assist/AnythingLLM)插图23

本地Deepseek添加个人知识库(Page Assist/AnythingLLM)插图24

本地Deepseek添加个人知识库(Page Assist/AnythingLLM)插图25

实测结果:比用硅基的api在 cherry studio上回答的效果好

可点击广告图
© 版权声明
THE END
喜欢就支持一下吧
点赞2赞赏 分享
评论 抢沙发

请登录后发表评论

    暂无评论内容