DeepSeek的數(shù)據(jù)來自于公網(wǎng)也就是公開的數(shù)據(jù)，有些企業(yè)私有的數(shù)據(jù)集是沒有參加訓練的，譬如：自己企業(yè)的產(chǎn)品信息、自己企業(yè)的規(guī)章制度、自己企業(yè)的行業(yè)知識等等。要想讓DeepSeek具備這些專有知識的能力，就需要給DeepSeek投喂這些知識，通過向量數(shù)據(jù)庫轉(zhuǎn)換成DeepSeek可以識別的數(shù)據(jù)集。然后我們就可以針對這些專有的知識進行文檔了，譬如智能客服系統(tǒng)等。還有就是數(shù)據(jù)安全問題，有些敏感數(shù)據(jù)不適宜上傳到公網(wǎng)的，也需要搭建本地知識庫。

下面是如何搭建本地知識庫問答系統(tǒng)，設計的軟件包括Ollama、AnythingLM等。

第一步：本地部署DeepSeek R1大模型，

參考之前的分享：本地電腦部署DeepSeek-R1大模型到這個位置，說明DeepSeek R1大模型已經(jīng)下載到本地電腦。

下載DeepSeek大模型

第二步：下載搭建本地知識庫的工具AnythingLLM

Download AnythingLLM for Desktop

AnythingLL官網(wǎng)

AnythingLLM 提供了 Mac、Windows 和 Linux 的安裝包，用戶可以直接從官網(wǎng)下載并安裝。

AnythingLLM 簡介

AnythingLLM 是一款開箱即用的一體化 AI 應用，支持 RAG（檢索增強生成）、AI 代理等功能。它無需編寫代碼或處理復雜的基礎設施問題，適合快速搭建私有知識庫和智能問答系統(tǒng)。

主要特性：

• 多種部署方式：支持云端、本地和自托管部署。

• 多用戶協(xié)作：支持團隊協(xié)作，適用于企業(yè)知識管理和客戶支持。

• 多模型支持：兼容 OpenAI、Anthropic、LocalAI 等主流大模型。

• 多向量數(shù)據(jù)庫支持：支持 Pinecone、Weaviate 等向量數(shù)據(jù)庫。

• 多文件格式處理：支持 PDF、TXT、DOCX 等文件格式。

• 實時網(wǎng)絡搜索：結(jié)合 LLM 響應緩存與對話標記功能，提供高效的文檔管理和智能問答能力。

第三步：配置AnythingLLM

下面是AnythingLLM的界面，初次啟動的時候沒有截圖，直接點下一步即可。

AnythingLLM界面

1、配置大模型

配置大模型

2、配置向量數(shù)據(jù)庫

配置向量數(shù)據(jù)庫

3、配置Embedder首選項

Embeddings 正是在這個時候派上用場的。它的作用是將自然語言轉(zhuǎn)換成一種機器可以理解的形式，并且能夠通過這些形式找到與你查詢最相關(guān)的信息。你可以把 Embeddings 理解為一種“翻譯器”，它幫助機器理解你說的是什么，并找到正確的答案。

配置Embedder首選項

3.1 打開ollama官網(wǎng)搜索nomic

搜索nomic

3.2 復制ollama命令

復制命令

3.3 下載模型

執(zhí)行拉取命令

下載成功

3.4 重新配置Embedder首選項

配置Embedder首選項

第四步：上傳本地知識庫文件

點擊該按鈕

上傳本地知識庫文件

從左邊拉取到右邊工作區(qū)框并保存

我剛才上傳的是《軟考高級-系統(tǒng)架構(gòu)設計師考試大綱.pdf》文件，現(xiàn)在就文件的內(nèi)容問大模型問題，他會從文件中檢索內(nèi)容。

DeepSeek思考的過程中有上傳的文檔

引用的知識庫

至此完成本地知識庫的搭建，有問題聊。