当前位置: 首页 > wzjs >正文

大型网站服务器配置阿里云 网站空间

大型网站服务器配置,阿里云 网站空间,无人在线观看视频高清视频,小米发布会2023新品在 Linux 上将 Ollama 部署为系统服务 本文档介绍了如何在 Linux 系统上将 Ollama 部署为一个后台服务(systemd 服务),并配置相关环境变量,以确保其稳定运行。文档中使用的用户名为 test,请根据实际情况替换为你自己的…

在 Linux 上将 Ollama 部署为系统服务

本文档介绍了如何在 Linux 系统上将 Ollama 部署为一个后台服务(systemd 服务),并配置相关环境变量,以确保其稳定运行。文档中使用的用户名为 test,请根据实际情况替换为你自己的用户。


📁 目录

  1. 创建 systemd 服务文件
  2. 服务管理命令
  3. 配置环境变量
  4. 验证部署

创建 systemd 服务文件

使用 sudo 编辑器创建一个新的 systemd 服务文件:

sudo vi /etc/systemd/system/ollama.service

将以下内容粘贴到该文件中(请根据你的实际路径进行调整):

[Unit]
Description=Ollama LLM Server
After=network.target[Service]
Type=simple
User=test
ExecStart=/home/test/ai/ollama/bin/ollama serve
Restart=on-failure
RestartSec=5
Environment=PATH=/usr/local/bin:/usr/bin:/bin:/home/test/ai/ollama/bin[Install]
WantedBy=multi-user.target

说明:

  • User=test 表示以 test 用户身份运行服务。
  • ExecStart 使用的是 Ollama 的绝对路径,请确保路径正确。
  • Environment 设置了 PATH,确保系统能找到 Ollama 可执行文件。
  • Restart=on-failure 表示如果服务崩溃,会自动重启。

保存并退出编辑器。


编辑文件以后,使用 systemctl daemon-reload 生效以上文件

服务管理命令

启动、停止和查看 Ollama 服务状态的常用命令如下:

# 启动服务
sudo systemctl start ollama.service# 停止服务
sudo systemctl stop ollama.service# 查看服务状态
sudo systemctl status ollama.service# 设置开机自启
sudo systemctl enable ollama.service# 取消开机自启
sudo systemctl disable ollama.service

配置环境变量

为了方便使用 Ollama 命令,并设置模型存储路径等参数,建议在用户主目录下的 .bashrc 文件中添加以下环境变量:

vi ~/.bashrc

添加如下内容:

# 将 Ollama 添加到 PATH
export PATH=$PATH:/home/test/ai/ollama/bin# 允许跨域请求(用于 API 调用)
export OLLAMA_ORIGINS=*# 自定义模型存储路径
export OLLAMA_MODELS=/opt/app/test/ollamamodels# 设置监听地址和端口
export OLLAMA_HOST=0.0.0.0:11434

保存后立即生效:

source ~/.bashrc

验证部署

1. 启动服务

sudo systemctl start ollama.service

2. 查看服务状态

sudo systemctl status ollama.service

你应该看到类似以下输出,表示服务正在运行:

● ollama.service - Ollama LLM ServerLoaded: loaded (/etc/systemd/system/ollama.service; disabled; vendor preset: enabled)Active: active (running) since ...

3. 测试访问

你可以通过浏览器或 curl 命令测试是否能访问 Ollama 的 API 接口:

curl http://localhost:11434/api/tags

你应该得到一个 JSON 格式的模型列表响应。


✅ 总结

至此,你已经成功地将 Ollama 部署为一个系统服务,并配置了必要的环境变量。现在你可以:

  • 通过 systemctl 控制服务启停;
  • 在任意位置调用 ollama 命令;
  • 指定模型存储路径;
  • 支持远程访问 API。

如需进一步优化,可以结合 Nginx 或 Traefik 进行反向代理,实现 HTTPS 访问等高级功能。


如需帮助或反馈问题,请联系管理员或参考 Ollama 官方文档。

http://www.dtcms.com/wzjs/786922.html

相关文章:

  • 建10个网站鹤壁建设网站推广公司
  • 网络营销的发展趋势和前景阳江seo网站推广
  • 微信小程序 网站开发wordpress如何生成rss
  • 网站建设所有软件清单wordpress添加一个加载动画
  • 互联网技术学什么汕头百度seo电话
  • 打开自己的网站是别人的域开发商城网站多少钱
  • 大型综合新闻门户网站织梦模板wordpress无法发送邮件
  • 网站建设报价方案doc做网站排名的公司有哪些
  • 京东网站的公司全名甜点网站里的新闻资讯怎么做
  • 网站模板之家官网昆明做网站设计
  • wap网站开发工具北京开公司的基本流程及费用
  • 做seo用什么网站系统广州网络推广选择
  • 安康优质网站建设方案做网站学h5还是php
  • 营商环境建设局网站互动营销案例都有哪些
  • 网站建设 物流自学编程做点网站赚钱
  • 哈尔滨快速建站合作营销型高端网站建设价格
  • 网站开发视频是存储的网站建设需要会什么软件
  • 鞍山 网站建设关于招聘的网站开发图
  • 建设一个电子商务网站的基本步骤太原网站建设方案书
  • 怎么建设国外网站wordpress主题存放目录
  • 营销型网站制作企业php网站做代理
  • 网站怎么做悬浮图片放大wordpress编辑header
  • 兰州网站设计最佳效果建设网站需要哪些软硬件条件
  • 广州市做网站东莞南城做网站推广的公司
  • 一个公司的网站怎么做建设公司网站哪家好
  • 网站icp证明烟台百度推广公司
  • 下载并安装百度地图沧州百度seo
  • 建设个人购物网站做搜狗pc网站软件下载
  • 网上购书的网站开发的意义设计师在线官网
  • 自己的网站打不开西安网站建设设计的好公司