当前位置: 首页 > news >正文

Ollama+OpenManus详细部署实战

一,OpenManus介绍

一个专注于基于强化学习(RL,例如 GRPO)的方法来优化大语言模型(LLM)智能体的开源项目,由来自UIUC 和 OpenManus 的研究人员合作开发。

二,安装

  • 创建新的 conda 环境:
conda create -n OpenManus python=3.12
conda activate OpenManus
  • 克隆仓库:
git clone https://github.com/mannaandpoem/OpenManus.git
cd OpenManus
  • 安装依赖:
pip install -r requirements.txt -i https://mirrors.tuna.tsinghua.edu.cn/pypi/web/simple

三,Ollama部署大模型

  • 1,在选择语言模型这一块要选支持调用tools的,支持function call的,ollama官方的文档有写清楚哪些模型支持这个

https://ollama.com/search?c=tools

# 语言模型
ollama run qwen2.5:7b
# 视觉模型
ollama run llava

在这里插入图片描述
在这里插入图片描述

  • 2,配置ollama并行处理和多模型启动
# 用于设置Ollama处理的最大并发请求数。这个参数对于需要较高GPU吞吐量的环境非常重要,适当增加这个值可以更好地利用GPU资源。
OLLAMA_NUM_PARALLEL=4
# 用于设置每个GPU上最大可加载的模型数量。通过调整这个参数,

相关文章:

  • 【SegRNN 源码理解】验证集和测试集
  • C语言【内存函数】详解加模拟实现
  • 大模型最新面试题系列:微调篇之微调框架(一)
  • 78. Harmonyos NEXT 懒加载数据源实现解析:BasicDataSource与CommonLazyDataSourceModel详解
  • 背诵--2
  • 【商城实战(33)】解锁版本迭代与更新策略
  • 敏捷开发在中小团队中的应用与挑战:实战指南与避坑手册
  • 对Spring的每种事务传播级别的应用场景和失效场景
  • 20250315在windows10下开热点步骤
  • linux系统CentOS 7版本搭建NFS共享存储
  • 为什么HashMap 头插法会造成死锁
  • JDBC 核心 API 全面解析与高效数据库操作
  • 如何用正则表达式爬取古诗文网中的数据(python爬虫)
  • K8S下nodelocaldns crash问题导致域名请求响应缓慢
  • 基于Python+Flask+MySQL+HTML的爬取豆瓣电影top-250数据并进行可视化的数据可视化平台
  • 睡不着运动锻炼贴士
  • 工程化与框架系列(34)--前端重构技巧指南
  • Compose 实践与探索九 —— DrawModifier 解析
  • Next.js项目MindAI教程 - 第八章:数据统计与可视化
  • CVPR-2025 | 长程视觉语言导航平台与数据集:迈向复杂环境中的智能机器人
  • 本周看啥|《歌手》今晚全开麦直播,谁能斩获第一名?
  • 老字号“逆生长”,上海制造的出海“蜜”钥
  • 讲座|消逝之钟:《红楼梦》与《布登勃洛克一家》中的时间观
  • 哈马斯官员:若实现永久停火,可交出加沙地带控制权
  • 共建医学人工智能高地,上海卫健委与徐汇区将在这些方面合作
  • 商务部回应稀土出口管制问题