DeepSeek V3搭建个人知识库教程,AnythingLLM+DeepSeekV3

为什么需要私人AI知识库为什么需要私人AI知识库

是不是厌倦了LLM⼀本正经的答⾮所问、套话...等低效的信息检索。

私有知识库在前AI时代就有⾮常多使⽤场景 ，尤其是企业内部知识、个人知识库等。结合⼀个优秀的 LLM之后 ，能够让知识检索和归纳上升⼀个台阶。

⼩⽩快速搭建个人AI知识库

个人AI知识库的⽅案有很多种 ，今天介绍⼀种难度很低且知识检索效果不错的⽅案：

AnythingLLM+DeepSeekV3。

• AnythingLLM 是⼀个知识库管理前端⼯具 ，⽀持上传知识、 向量化数据、 RAG（检索增强） ⼀条 龙服务 ，⽽且是开源免费的。

• DeepSeekV3（简称DS）是幻⽅量化的⼤模型 ，总体评分和Clad ue3.5不相上下 ，⽽且Token⾮常 便宜 ，本次⽅案使⽤DS作为推理模型。

（AnythingLLM还⽀持其他推理模型 ，如GPT、Claude或者ollama运⾏本地开源模型等）

⼀ 、安装AnythingLLM

1.下载地址：https://anythingllm.com/ ，⽀持windows、 mac、 Linux系统。

2.打开软件 ，先设置LLM ，这⾥选DeepSeek ，模型选择chat（也就是的V3模型） 。API Key可以 去它们官⽹注册下 ，充值⼏块钱就够⽤了。

3.进⼊⼯作区 ，可以在左下角设置按钮中进⾏基础配置 ，如： LLM、嵌⼊模型、 向量数据库选择等 ，新 ⼿可以先保持默认设置。 （这⾥单独提下Embedding模型 ，Embedding是将⾼纬度数据嵌⼊低纬度空间⽅便存储 ，模型性能影 响对后续知识检索有挺⼤影响 ，建议可以换成bge-m3 ，这个模型对多语⾔和⻓⽂本都⽀持的不错 ，需

要本地运⾏Ollama加载这个模 ， 由于需要安装Ollama ，新⼿可以跳过这⼀步）。

⼆ 、上传⽂档

1.上点击⼯作空间的上传按钮 ，打开上传

2.⽀持上传pdf、csv、⾳频或者抓取⽹页内容等等。上传后右键加⼊⼯作空间就ok了。

附件：DeepSeek V3搭建个人知识库教程,AnythingLLM+DeepSeekV3