Linux 或者 Ubuntu 离线安装 ollama
因为办公场地没有网络,所以只能使用离线部署的方式来部署 ollama
1、需要提前下载 ollama
的安装包和模型文件
# ollama 安装包下载地址,注意分辨是 GPU 品牌和架构https://github.com/ollama/ollama/blob/main/docs/linux.md
我的都是 intel x86
的 GPU
,所以用的第一个地址
模型文件需要使用命令拉取。我是通过在联网的 Windows
电脑上安装的 ollama
软件拉取的模型文件。
2、下面是一些 ollama
常用的命令:
启动 ollama
,这个命令可以实时打印 ollama
的日志信息
ollama serve
从模型文件创建模型
ollama create
显示模型信息
ollama show
运行模型
ollama run
从注册表中拉取模型
ollama pull
将模型推送到注册表
ollama push
列出模型
ollama list
复制模型
ollama cp #
删除模型
ollama