安装部署deepseek+dify知识库
使用ubuntu22.04部署deepseek+dify本地知识库模型
备注:
https://blog.csdn.net/liu971134228/article/details/144961109 #安装docker
- 安装系统ubuntu22.04
- 更新本地数据源
https://mirrors.tuna.tsinghua.edu.cn/help/ubuntu/ 根据不同版本选择
修改文件/etc/apt/sources.list
# 默认注释了源码镜像以提高 apt update 速度,如有需要可自行取消注释
deb https://mirrors.tuna.tsinghua.edu.cn/ubuntu/ jammy main restricted universe multiverse
# deb-src https://mirrors.tuna.tsinghua.edu.cn/ubuntu/ jammy main restricted universe multiverse
deb https://mirrors.tuna.tsinghua.edu.cn/ubuntu/ jammy-updates main restricted universe multiverse
# deb-src https://mirrors.tuna.tsinghua.edu.cn/ubuntu/ jammy-updates main restricted universe multiverse
deb https://mirrors.tuna.tsinghua.edu.cn/ubuntu/ jammy-backports main restricted universe multiverse
# deb-src https://mirrors.tuna.tsinghua.edu.cn/ubuntu/ jammy-backports main restricted universe multiverse
# 以下安全更新软件源包含了官方源与镜像站配置,如有需要可自行修改注释切换
deb http://security.ubuntu.com/ubuntu/ jammy-security main restricted universe multiverse
# deb-src http://security.ubuntu.com/ubuntu/ jammy-security main restricted universe multiverse
# 预发布软件源,不建议启用
# deb https://mirrors.tuna.tsinghua.edu.cn/ubuntu/ jammy-proposed main restricted universe multiverse
# # deb-src https://mirrors.tuna.tsinghua.edu.cn/ubuntu/ jammy-proposed main restricted universe multiverse
使用 apt-get update apt-get upgrade 更新源
- 使用root通过ssh访问ubuntu
#更改固定IP地址
vim /etc/netplan/00-*** #编辑文件
network:
ethernets:
ens160:
dhcp4: false
addresses: [192.168.10.28/24]
optional: true
routes:
- to: default
via: 192.168.10.1
nameservers:
addresses: [114.114.114.114,8.8.8.8]
ztuwr2n7ff:
dhcp4: true
version: 2
#使用root远程访问
vim /etc/ssh/sshd_config #更改文件 PermitRootLogin yes,保存退出
- 安装docker
1、运行以下命令来卸载所有冲突的包
for pkg in docker.io docker-doc docker-compose docker-compose-v2 podman-docker containerd runc; do sudo apt-get remove $pkg; done
2、设置 Docker 的apt存储库
# Add Docker's official GPG key:
sudo apt-get update
sudo apt-get install ca-certificates curl
sudo install -m 0755 -d /etc/apt/keyrings
sudo curl -fsSL https://download.docker.com/linux/ubuntu/gpg -o /etc/apt/keyrings/docker.asc
sudo chmod a+r /etc/apt/keyrings/docker.asc
# Add the repository to Apt sources:
echo \
"deb [arch=$(dpkg --print-architecture) signed-by=/etc/apt/keyrings/docker.asc] https://download.docker.com/linux/ubuntu \
$(. /etc/os-release && echo "$VERSION_CODENAME") stable" | \
sudo tee /etc/apt/sources.list.d/docker.list > /dev/null
sudo apt-get update
备注:如果您使用 Ubuntu 衍生发行版,例如 Linux Mint,则可能需要使用UBUNTU_CODENAME而不是VERSION_CODENAME。
3、要安装最新版本(如果选择最新版本,跳过步骤4、5即可)
sudo apt-get install docker-ce docker-ce-cli containerd.io docker-buildx-plugin docker-compose-plugin
4、要安装特定版本的 Docker Engine,请首先列出存储库中的可用版本
# List the available versions:
apt-cache madison docker-ce | awk '{ print $3 }'
5、选择所需版本并安装
VERSION_STRING=5:27.4.0-1~ubuntu.24.04~noble
sudo apt-get install docker-ce=$VERSION_STRING docker-ce-cli=$VERSION_STRING containerd.io docker-buildx-plugin docker-compose-plugin
6、通过运行镜像来验证安装是否成功hello-world
sudo docker run hello-world
备注:此命令下载测试映像并在容器中运行。容器运行时,它会打印一条确认消息并退出。
卸载 Docker Engine
1、卸载 Docker Engine、CLI、containerd 和 Docker Compose 软件包
sudo apt-get purge docker-ce docker-ce-cli containerd.io docker-buildx-plugin docker-compose-plugin docker-ce-rootless-extras
2、主机上的镜像、容器、卷或自定义配置文件不会自动删除。要删除所有镜像、容器和卷
sudo rm -rf /var/lib/docker
sudo rm -rf /var/lib/containerd
3、删除源列表和密钥环
sudo rm /etc/apt/sources.list.d/docker.list
sudo rm /etc/apt/keyrings/docker.asc
- 安装docker-compose
https://github.com/docker/compose/releases 官网地址
1、将上传文件复制到/usr/local/bin
sudo cp docker-compose-linux-x86_64\ /usr/local/bin/docker-compose
2、授权
sudo chmod +x /usr/local/bin/docker-compose
3、查看是否安装成功
docker-compose -v
4、卸载docker-compose
sudo rm -rf /usr/local/bin/docker-compose
使用代理
sudo mkdir -p /etc/docker
sudo tee /etc/docker/daemon.json <<-'EOF'
{
"registry-mirrors": [
"https://docker.1ms.run",
"https://ustc.edu.cn.mirror.aliyuncs.com",
"https://do.linuxcn.eu.org",
"https://do.mirrors.ustc.edu.cn",
"https://docker.nju.edu.cn",
"https://registry.docker-cn.com",
"https://nrbewqda.mirror.aliyuncs.com",
"https://dmmxhzvq.mirror.aliyuncs.com" ]
}
EOF
sudo systemctl daemon-reload
sudo systemctl restart docker
备注:离线安装docker、docker-compose
Docker 官网离线安装文档:
https://docs.docker.com/engine/install/binaries/
官网下载 docker 安装包
https://download.docker.com/linux/ubuntu/dists/focal/pool/stable/amd64/
1、将下载的文件上传到服务器
docker-ce_27.4.0-1~ubuntu.20.04~focal_amd64.deb
docker-ce-cli_27.4.0-1~ubuntu.20.04~focal_amd64.deb
containerd.io_1.7.24-1_amd64.deb
docker-buildx-plugin_0.19.2-1~ubuntu.20.04~focal_amd64.deb
docker-compose-plugin_2.31.0-1~ubuntu.20.04~focal_amd64.deb
2、进行安装
sudo dpkg -i containerd.io_1.7.24-1_amd64.deb
sudo dpkg -i docker-ce-cli_27.4.0-1~ubuntu.20.04~focal_amd64.deb
sudo dpkg -i docker-ce_27.4.0-1~ubuntu.20.04~focal_amd64.deb
sudo dpkg -i docker-buildx-plugin_0.19.2-1~ubuntu.20.04~focal_amd64.deb
sudo dpkg -i docker-compose-plugin_2.31.0-1~ubuntu.20.04~focal_amd64.deb
3、查看是否安装成功
docker -v
- 安装ollama
curl -fsSL https://ollama.com/install.sh | sh
等待安装完成。
- 安装dify
# 假设当前最新版本为 0.15.3
git clone https://github.com/langgenius/dify.git --branch 0.15.3
#也可以将文件下载到本地。https://github.com/langgenius/dify 将文件.zip 文件下载下来保存到本地
apt install unzip #安装解压缩软件
unzip xxxx.zip #解压缩文件
cd /dify-0.15.3/docker
cp .env.example .env
docker compose up -d
等待部署完成。
使用IP地址访问
- 设置模型并添加知识库
点击设置
点击模型供应商
选择相应的模型,这里选择ollama 点击安装。等待安装完成
点击保存。结束模型安装。
添加知识库
版权声明:
本站所有文章除特别声明外,均采用 CC BY-NC-SA 4.0 许可协议。转载请注明来自
痕迹!
喜欢就支持一下吧