ollama笔记
哔哩哔哩课程地址
一、安装
1.1 安装
下载地址
1.2 安装模型
简单介绍接口调用
目前机器性能比较低,所以就运行8b,默认端口http://localhost:11434/v1
# 运行
ollama run llama3:8b# 进入后 /bye就退出 或者 Ctrl + d退出 退出了就清除了上下文
# /clear 清除上下文
# 查看已经安装的模型
ollama list
可以打开网站选好模型,滑倒底部 models是支持哪些的模型
1.3 拓展
huggingface是类似github一样,属于ai领域的hub,里面有各种训练集,模型等等资源
二、介绍
下载本地部署管理
三、关键词
- b代表模型里参数的数量级 7b代表70亿的数量
内存推荐
四、简单基础命令和玩法
以提示词为方式启动模型
模型执行的细节
识别图片
更多
还有自定义模型单独写
五、自定义模型
PARAMETER的参数0-1,设置的越大,回复的脑回路越新奇
set the 限制内容,也就是提示词吧大概
Modelfile
文件
官网地址介绍
教程例子