邯郸网站制作厂家网站优化软件

问题

之前本地量化模型管理器ollama的文章，我们知道可以通过ollama来管理本地量化模型，也能够在命令行中与相关模型进行对话。现在我们想要在有个web页面通过浏览器来与本地模型对话。这里我们就使用Open webui作为界面来与本地模型对话。

安装启动

这里假设我们已经在本地已经使用了ollama，并且已经启动，这里我们只需要，同样在本地运行如下docker命令来安装open webui即可，如下命令：

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

• --add-host=host.docker.internal:host-gateway：host.docker.internal在docke网络中代表宿主机的ip，这样docker容器就可以使用它来访问宿主机的服务了，host-gateway代表docker网络中的默认网桥。添加一条这样的dns记录，就可以让容器通过host.docker.internal访问宿主机的服务了。

测试

等待一段时间open webui容器完全启动后，我们在打开本地http://localhost:3000/，设置管理员密码，就可以正常使用ollama中管理的本地量化模型 。效果如下：

总结

到这里我们就可以通过ollama+open webui，在本地用上一个简化版的ai对话了。

参考

• Open WebUI
• open-webui github
• host.docker.internal
• host-gateway
• Docker中访问宿主机：host.docker.internal