大模型_Ubuntu24.04安装RagFlow_使用hyper-v虚拟机_超级详细--人工智能工作笔记0251

    因为之前使用dify搭建了一个知识库，但是dify的效果，尤其是在文档解析方面是非常不友好的，虽然测试了，纳米的效果非常好，但是纳米只能容纳2000个文件，如果

你的知识库中有代码，sql文件等等，如果太多，就不行了。而如果分开智能体的话，那么就非常麻烦，所以自己搭建本地的，知识库效果会好一些，但是如果你没有

671b参数的大模型，deepseek的话，其实模型效果就又差了。

    首先去搭建大模型用的Ubuntu24.04 hyper-v虚拟机，这个之前章节已经有了。过程一样不重复截图，然后

设置虚拟机可以被外网访问。这里看一下如何设置：之前也说过，但是这里再说一下，其实只设置一个外部使用网络就可以了。

就可以实现，本机，访问虚拟机，虚拟机也可以访问本机。

首先用hyper-v管理器，创建一个外部网络可以看到，点击虚拟机设置，然后

创建网络适配器，然后，点击外部，然后设置虚拟机适配器，作成

    

然后填写名字，然后选择本地网卡，然后点击ok

就像上面一样填写，演示了一下上面，然后点击ok就可以了

可以看到就多出来一个网卡，名字是刚刚创建的外部网络extenral

然后去看看他的ip地址，是172.19.129.133

其实这个就是本机的ip，但是dns没有带过来，我给填写上了。

然后这个时候去看，本机的地址，也是原来的172.19.129.133

没有变，感觉就是，本机的网卡，被使用创建了这个虚拟的外部网卡，external然后

本机网卡就没有用了。

然后可以看到本机网卡的ipv4就被自动勾选掉了，然后这个时候

经过测试，本机172.19.129.133可以ping通虚拟机 172.19.129.135

注意，配置以后，需要手动在虚拟机配置一下ip地址：

可以看到点开ipv4配置就可以了。

然后去设置一下root的密码

sudo passwd root 

然后切换到root用户

# 检查的值vm.max_map_count
sysctl vm.max_map_count# 重置vm.max_map_count设置为大于等于262144的值 (如果不是)；本机（八张A100的8U机架人工智能一体机）内存2TB , 所以设置100万负载
sysctl -w vm.max_map_count=1048576在 /etc/sysctl.conf 文件里把 vm.max_map_count 的值再相应更新一遍：vm.max_map_count=1048576sysctl -p# 验证限制是否生效
cat /proc/sys/vm/max_map_count

然后去设置一下这个映射的值是1048576，我查看了一下默认就是这个，所以没有设置，如果不是，按照上面的方式设置。

apt-get install open-vm-tool

apt-get install open-vm-tools-desktop

sudo apt update

然后就可以继续安装，首先安装docker。

可以看到首先执行

sudo apt install apt-transport-https curl

可以看到报了个错，其实意思就是

我们这边有个认证，浏览器访问上面的那个114.登录用户名密码以后，才允许联网。

curl -fsSL https://download.docker.com/linux/ubuntu/gpg | sudo gpg --dearmor -o /etc/apt/keyrings/docker.gpg

执行这个添加密钥以后

echo "deb [arch=$(dpkg --print-architecture) signed-by=/etc/apt/keyrings/docker.gpg] https://download.docker.com/linux/ubuntu $(. /etc/os-release && echo "$VERSION_CODENAME") stable" | sudo tee /etc/apt/sources.list.d/docker.list > /dev/null

然后再来执行这个，将 Docker 的官方仓库添加到 Ubuntu 24.04 LTS 的软件源列表

然后再执行一下：
sudo apt update

这些步骤在之前的博文中有了，为了参考的时候方便这里仅仅贴一下代码

然后：sudo apt install docker-ce docker-ce-cli containerd.io docker-buildx-plugin docker-compose-plugin

执行这个来安装docker 会花一些时间大小大了一点。

sudo apt install git docker.io docker-compose

再去安装git

sudo systemctl is-active docker

安装了docker以后，然后再来执行，上面这个命令，查看运行状态

可以看到没问题了。

然后运行

apt install vim

sudo vim /etc/docker/daemon.json  执行这个命令

去添加几个国内的镜像源

{"registry-mirrors": ["https://docker.m.daocloud.io","https://mirror.baiduce.com","http://hub-mirror.c.163.com","https://docker.nju.edu.cn","https://docker.1panelproxy.com","https://hub.rat.dev","https://089rhvq.mirror.aliyuncs.com","https://ustc-edu-cn.mirror.aliyuncs.com/","https://docker.mirrors.ustc.edu.cn","https://ccr.ccs.tencentyun.com/","https://dockerproxy.com","https://docker.registry.cyou","https://docker-cf.registry.cyou","https://dockercf.jsdelivr.fyi","https://docker.jsdelivr.fyi","https://dockertest.jsdelivr.fyi","https://mirror.aliyuncs.com","https://dockerproxy.com","https://docker.mirrors.sjtug.sjtu.edu.cn","https://mirror.iscas.ac.cn","https://docker.rainbond.cc"]
}

添加了以后按esc按键 ，然后点击:wq

保存退出

sudo systemctl daemon-reload
sudo systemctl restart docker

然后重新加载一下docker

然后执行 sudo docker info 可以看到apt源已经都加上了。

可以看到首先执行

systemctl start docker

systemctl enable docker

systemctl status docker

sudo docker run  hello-world 可以看到 运行结果 执行一个案例试了试这个是

没问题了

https://ragflow.io/docs/dev/

首先执行：

su root

sysctl -w vm.max_map_count=262144

然后再去克隆代码：

git clone https://github.com/infiniflow/ragflow.git

尝试了好多次，在白天上午的时候，速度快可以成功。

$ git clone https://github.com/infiniflow/ragflow.git
$ cd ragflow/docker
$ git checkout -f v0.19.0

可以看到按照顺序执行。

如果需要修改端口的话，修改这个文件。

# Use CPU for embedding and DeepDoc tasks:
$ docker compose -f docker-compose.yml up -d# To use GPU to accelerate embedding and DeepDoc tasks:
# docker compose -f docker-compose-gpu.yml up -d

我们这个是CPU所以这里就

执行：

去启动就可以了。

启动以后去访问就可以了。