基于开源MaxKB构建大语言模型的本地知识库系统|docker|maxkb|大语言|本地知识库系统

什么是MaxKB

MaxKB是一款基于LLM（Large Language Model）大语言模型的知识库问答系统。MaxKB的产品命名内涵为“Max Knowledge Base”，为用户提供强大的学习能力和问答响应速度，致力于成为企业的最强大脑。

开源：https://github.com/1Panel-dev/MaxKB

文档：https://maxkb.cn/docs/

系统：ubuntu 22.04
docker：  Docker version 26.1.3, build b72abbb
IP：192.168.1.23

需要安装docker

2.基于Docker安装MaxKB

# mkdir -p /data/docker/maxkb
# docker run -itd --restart always --name=maxkb -p 8080:8080 -v /data/docker/maxkb:/var/lib/postgresql/data 1panel/maxkb

3.浏览器访问

IP+端口访问

输入默认的用户名和密码

# 用户名: admin
# 密码: MaxKB@123..

使用MaxKB

如下图，进入后台之后有“应用”，“知识库”，“系统管理”三大主要功能。

创建应用

主要选择 AI模型，添加模型

除了基于OpenAI、Ollama、百度千帆大模型等在线大模型快速搭建知识库问答系统，这里可以添加第三方的大模型。

MaxKB还支持与以Ollama为代表的本地私有大模型相结合，快速部署本地的知识库问答系统。

可以参考之前的：

root@star-ai:~# ollama list
NAME                    ID              SIZE    MODIFIED     
llama3-cn:latest        8adc5a8a5c36    6.6 GB  11 days ago 
qwen:0.5b               b5dc5e784f2a    394 MB  2 months ago
llama2:latest           78e26419b446    3.8 GB  2 months ago
qwen:32b                26e7e8447f5d    18 GB   2 months ago
gemma:latest            a72c7f4d0a15    5.0 GB  2 months ago
phi3:latest             a2c89ceaed85    2.3 GB  2 months ago
llama3:latest           a6990ed6be41    4.7 GB  2 months ago
qwen:14b                80362ced6553    8.2 GB  2 months ago
qwen:latest             d53d04290064    2.3 GB  2 months ago

配置本地的Olloma模型

后台，点击 Olloma再点击添加模型