当前位置: 首页 > news >正文

ollama常见属性设置

Ollama
常见ollama 属性设置
我们在平时使用ollama过程中会遇到不少问题,比如模型镜像加载在C 盘有没有办法切换到其他盘符、启动ollama 只能127.0.0.1 不能使用IP 访问等问题。这些问题都是可以借助ollama 属性设置来解决。
OLLAMA_HOST=0.0.0.0 解决外网访问问题
OLLAMA_MODELS=E:\ollamaimagers 解决模型默认下载C 盘的问题
OLLAMA_KEEP_ALIVE=24h 设置模型加载到内存中保持24个小时(默认情况下,模型在卸载之前会在内存中保留 5 分钟)
OLLAMA_HOST=0.0.0.0:8080 解决修改默认端口11434端口
OLLAMA_NUM_PARALLEL=2 设置2个用户并发请求
OLLAMA_MAX_LOADED_MODELS=2 设置同时加载多个模型

嵌入模型
嵌入模型(Embedding Model)是一种将高维数据(如文本、图像、用户行为等)转换为低维向量表示的方法。这些向量在一个连续的向量空间中,保持了原始数据的语义或结构信息,使得相似的数据点在空间上距离较近。例如,在自然语言处理中,语义相似的词语在向量空间中的距离也很近。
果然获取维度失败是有原因的,有些模型是支持嵌入的,有些则不支持,如qwen-1.5B, deepseek-70B它就支持,查看API文档
在这里插入图片描述
支持嵌入的一般是比较小的模型,灵活,像稍大一点的模型就不支持嵌入了比如qwen-32B,Qwen2.5-7B-Instruct
在这里插入图片描述
常见报错
在使用过程中可能会遇到一些报错代码,这些报错代码表示的意思如下:
400: 请求错误,请检查请求参数是否正确。如果修改了模型设置,请重置到默认设置
401: 身份验证失败,请检查 API 密钥是否正确
403: 禁止访问,请检查是否实名认证,或联系服务商询问被禁止原因
404: 模型不存在或者请求路径错误
429: 请求过多,请稍后再试
500: 服务器错误,请稍后再试
502: 网关错误,请稍后再试
503: 服务不可用,请稍后再试
504: 网关超时,请稍后再试

相关文章:

  • AIGC 使用层 | 关于AI prompt
  • Spring常用的注解详细介绍 原理分析,与实际案例
  • 黑客是如何攻击一部手机的?
  • Objective-C与Swift混合编程
  • 使用SVN checkout时报错Unable to connect to a repository at URL
  • LINUX616 问题:vim编辑器;粘滞位(其他需回顾);配置静态网络报错;more,less,head命令
  • 如何确定驱动480x320分辨率的显示屏所需的MCU主频
  • 微信小程序页面容器弹出层
  • Next.js面试题:API深度解析
  • LangChain 与 Milvus 的碰撞:全文检索技术实践
  • java 设计模式_行为型_23状态模式
  • 论文笔记:CAN LLMS UNDERSTAND TIME SERIES ANOMALIES?
  • Kafka Connect实战:从环境搭建到全流程操作
  • solana 编写智能合约 然后调用它
  • C#/.NET/.NET Core技术前沿周刊 | 第 42 期(2025年6.9-6.15)
  • Debian 编译安装 ruby3.2
  • webpack到vite的改造之路
  • SOME/IP学习随笔
  • Trae - 非科班在建模比赛中的 AI 编程手|AI编程社知识库精选
  • vscode snippet 工程模板文件分享
  • 哪个网站专门做母婴/网址大全名称
  • 竭诚网络网站建设价格/百度人工服务24小时电话
  • 做调查哪个网站比较可靠/seo的定义
  • 网站建设技术招聘/网站统计数据
  • 招聘网站做鸭子的/网站建设的意义和目的
  • 学习做网站只学过c/360优化大师安卓手机版下载安装