当前位置: 首页 > news >正文

在 Windows 上配置 Ollama 服务并开放局域网访问

为了在局域网内共享 Ollama 服务,我们需要完成以下两步:

1、设置 Ollama 的环境变量 OLLAMA_HOST,使其监听局域网的 IP 地址。

(1) 配置 Ollama 服务的监听地址
Ollama 服务使用环境变量 OLLAMA_HOST 来指定监听的地址,默认情况下,它只监听 localhost,即只能本地访问。如果要让局域网内其他设备访问 Ollama 服务,需要将 OLLAMA_HOST 设为 0.0.0.0
(2)设置环境变量

在 Windows 中,可以通过以下步骤来设置环境变量 OLLAMA_HOST:

1、打开系统属性:

右键点击 此电脑 或 计算机,选择 属性。
在左侧点击 高级系统设置。
2、环境变量:

在弹出的窗口中,点击 环境变量。
3、新建用户环境变量:

        在 系统变量 部分,点击 新建。
        在 变量名 输入框中,输入 OLLAMA_HOST。
        在 变量值 输入框中,输入 0.0.0.0,然后点击 确定。
4、重启命令行窗口:
        设置完成后,确保关闭并重新打开命令行窗口,使新的环境变量生效。

完成后,Ollama 服务将在所有网络接口上监听,包括局域网。

2、在 Windows 防火墙中开放 Ollama 服务使用的端口(如 11434)。

为了使其他设备能够访问 Ollama 服务,我们需要在 Windows 防火墙中开放 Ollama 服务运行的端口(例如 11434)。你可以选择通过图形界面操作,或者更快捷地通过命令行操作来完成设置。

方法一:使用 Windows 防火墙图形界面

  1. 打开 控制面板,搜索并选择 Windows Defender 防火墙。
  2. 在左侧点击 高级设置,进入高级防火墙设置页面。
  3. 在左侧菜单中,点击 入站规则,然后在右侧点击 新建规则。
  4. 选择 端口 作为规则类型,然后点击 下一步。
  5. 选择 TCP,并在 特定本地端口 一栏中输入 11434,然后点击 下一步。
  6. 选择 允许连接,点击 下一步。
  7. 根据需求选择应用的网络类型(域、专用或公用),点击 下一步。
  8. 为这条规则命名(如 “Allow Ollama Port 11434”),然后点击 完成。

方法二:使用命令行快速开放端口
如果你更习惯使用命令行,可以通过以下步骤快速开放端口。
1、打开 命令提示符(以管理员身份运行),使用以下命令为 Ollama 服务开放 11434 端口(TCP 协议):

netsh advfirewall firewall add rule name="Allow Port 11434" dir=in action=allow protocol=TCP localport=11434

如果 Ollama 使用的是 UDP 协议,可以将命令中的 TCP 改为 UDP

netsh advfirewall firewall add rule name="Allow Port 11434" dir=in action=allow protocol=UDP localport=11434

2、你可以通过以下命令确认规则是否正确添加:

netsh advfirewall firewall show rule name="Allow Port 11434"

3、测试 Ollama 服务是否在局域网中可访问

完成上述设置后,Ollama 服务应该可以通过局域网中的其他设备访问。你可以通过局域网中的另一台设备,在浏览器中输入以下地址进行测试:
http://<你的本机IP地址>:11434
例如,如果你的本机 IP 地址是 192.168.1.100,则在局域网中其他设备的浏览器中输入:

http://192.168.1.100:11434

怎么查看本机ip地址,在cmd下输入ipconfig查看,我是用的WiFi,所以选择的是无线局域网适配器WLAN,你连接的宽带的话就看以太网的ip地址,如下所示。


如果服务成功启动,页面应显示 Ollama API 的相关信息,表明你的服务已经能够在局域网中正常访问。

5. 总结
通过以上步骤,你可以轻松地在 Windows 上配置 Ollama 服务并允许其他局域网设备访问该服务。具体操作包括:

  1. 配置环境变量 OLLAMA_HOST,使 Ollama 服务监听局域网中的请求。
  2. 在 Windows 防火墙中开放相应端口。

这一过程简单且高效,能够帮助你快速地将本地 AI 服务共享给局域网中的其他设备,实现更广泛的应用场景。

 本文参考文章:在 Windows 上配置 Ollama 服务并开放局域网访问_windows_史不了-尧米AI

相关文章:

  • Spring MVC框架二:创建第一个MVC程序
  • Redis-列表结构实操
  • labview实现有符号位16进制转二进制补码转真值
  • 数据结构与算法面试专题——桶排序
  • 前端浏览器开发中的浏览器兼容问题【持续更新】
  • 计算机毕业设计 ——jspssm502Springboot 餐厅点餐系统
  • C语言数据结构—堆的应用及Topk问题
  • Dify部署
  • 第一章:项目简介
  • 非结构化数据管理平台如何解决企业数据孤岛问题?
  • 物联网综合实训室建设方案的探讨(职业院校物联网综合实训室建设方案)
  • 朝天椒 USB 服务器解决投标CA盾异地连接
  • django框架使用
  • 希尔排序:突破插入排序的局限
  • 嵌入式开发:傅里叶变换(4):在 STM32上面实现FFT(基于STM32L071KZT6 HAL库+DSP库)
  • 【nginx】nginx.conf配置详解
  • 编写第一个 C++ 程序 – Hello World 示例
  • 【YOLOv8】YOLOv8改进系列(3)----替换主干网络之ConvNeXt V2
  • Nginx的安装和部署以及Nginx的反向代理与负载均衡
  • 芯旺微KF32A156芯片CANFD过滤配置
  • 就规范涉企行政执法专项行动有关问题,司法部发布解答
  • 竞彩湃|欧联杯决赛前,曼联、热刺继续划水?
  • “AD365特应性皮炎疾病教育项目”启动,助力提升认知与规范诊疗
  • 俄方代表团抵达土耳其,俄乌直接谈判有望于当地时间上午重启
  • 缅甸内观冥想的历史漂流:从心理治疗室到“非语言现场”
  • 上海虹桥国际咖啡文化节周五开幕,来看Coffeewalk通关攻略