Qwen-0.5b linux部署

参考链接
https://blog.csdn.net/imwaters/article/details/145489543

https://modelscope.cn/models/modelscope/ollama-linux

1. ollama安装

# 安装ModelScope工具包，用于下载和管理AI模型
pip install modelscope

# 下载Ollama的Linux版本安装包
# --model 指定要下载的模型ID
# --local_dir 指定下载到本地的目录
modelscope download --model=modelscope/ollama-linux --local_dir ./ollama-linux

# 进入下载好的ollama-linux目录
cd ollama-linux

# 给安装脚本添加执行权限
# chmod 777表示赋予所有用户读、写、执行的权限
sudo chmod 777 ./ollama-modelscope-install.sh

# 执行安装脚本，该脚本会自动安装Ollama服务
# 安装过程包括：解压文件、配置环境变量、设置系统服务等
./ollama-modelscope-install.sh

这个安装流程主要完成以下几个步骤：

1. 安装ModelScope工具，它是一个用于AI模型管理的Python库
2. 使用ModelScope下载Ollama的Linux安装包
3. 为安装脚本添加执行权限
4. 运行安装脚本，完成Ollama的系统级安装

安装完成后，Ollama服务会在系统中注册，可以通过命令行直接调用。

2. 下载并启动模型

ollama run qwen2.5:0.5b