当前位置：首页 > news >正文

Docker与Ollama强强联合！deepseek-r1部署实践

news 来源：原创 2025/5/2 5:42:53

我们之前的博客介绍了如何构建一个包含Ollama框架和qwen2.5-3B 模型的Docker镜像，并通过Docker Compose快速移植部署到离线环境，今天我们继续带来deepseek-r1的部署实践！

1 拉取ollama镜像

# 拉取ollama 
docker pull ollama/ollama

2 运行Ollama并下载deepseek-r1

2.1 运行Ollama

# 运行ollama 
docker run -d --restart=always -p 11434:11434 --name ollama ollama/ollama

2.2 下载deepseek-r1

# 进入容器
docker exec -it c81c97a47a52 bash

[root@node3 ~]# docker exec -it c81c97a47a52 bash
root@c81c97a47a52:/# 

# 下载模型
ollama run deepseek-r1:1.5b

root@c81c97a47a52:/# ollama pull deepseek-r1:1.5b
pulling manifest 
pulling aabd4debf0c8... 100% ▕█████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏ 1.1 GB                         
pulling 369ca498f347... 100% ▕█████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏  387 B                         
pulling 6e4c38e1172f... 100% ▕█████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏ 1.1 KB                         
pulling f4d24e9138dd... 100% ▕█████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏  148 B                         
pulling a85fe2a2e58e... 100% ▕█████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏  487 B                         
verifying sha256 digest 
writing manifest 
success 
root@c81c97a47a52:/#

2.3 验证模型是否下载

docker exec -it ollama bash
ollama list

root@c81c97a47a52:/# ollama list
NAME                ID              SIZE      MODIFIED      
deepseek-r1:1.5b    a42b25d8c10a    1.1 GB    3 minutes ago    
root@c81c97a47a52:/#

3 提交修改容器为新镜像

# 提交容器为新镜像
docker commit ollama ollama_deepseek-r1_1.5b:latest

[root@node3 ~]# docker commit ollama ollama_deepseek-r1_1.5b:latest
sha256:35b671db80b39509b5afdbf9443216d69e2fcb9df0334495f8f3dbdb76f8778c
[root@node3 ~]#

4 打包镜像并分发

4.1 保存镜像为tar文件

docker save -o ollama_deepseek-r1_1.5b.tar ollama_deepseek-r1_1.5b:latest

[root@node3 ~]# docker save -o ollama_deepseek-r1_1.5b.tar ollama_deepseek-r1_1.5b:latest

[root@node3 ~]#

4.2 分发与加载镜像

# 将生成的tar文件传输到目标服务器，执行以下命令加载
docker load -i ollama_deepseek-r1_1.5b.tar

[root@node1 ai]# docker load -i ollama_deepseek-r1_1.5b.tar
fffe76c64ef2: Loading layer [==================================================>]  75.19MB/75.19MB
ae8280b0d22b: Loading layer [==================================================>]  6.975MB/6.975MB
d3199b7e3644: Loading layer [==================================================>]  31.88MB/31.88MB
4f1e5717e84e: Loading layer [=====================>                             ]  1.452GB/3.341GB
4f1e5717e84e: Loading layer [==================================================>]  3.341GB/3.341GB
1d97a5efebc4: Loading layer [==================================================>]  1.117GB/1.117GB
Loaded image: ollama_deepseek-r1_1.5b:latest
[root@node1 ai]#

5 部署与使用

5.1 创建docker-compose.yml文件

# 创建docker-compose.yml文件并添加如下内容
version: '3'
services:
  ollama:
    image: ollama_deepseek-r1_1.5b:latest
    container_name: ollama_deepseek
    ports:
      - "11434:11434"
    restart: always

5.2 启动服务

# 在包含docker-compose.yml的目录中运行以下命令：
docker-compose up -d

[root@node1 ai]# docker ps 
CONTAINER ID   IMAGE                            COMMAND                  CREATED         STATUS         PORTS                                           NAMES
914953d0f47f   ollama_deepseek-r1_1.5b:latest   "/bin/ollama serve"      9 seconds ago   Up 8 seconds   0.0.0.0:11434->11434/tcp, :::11434->11434/tcp   ollama_deepseek
6f3796955f23   nginx                            "/docker-entrypoint.…"   8 days ago      Up 3 days      0.0.0.0:8090->80/tcp, [::]:8090->80/tcp         nginx_compose
[root@node1 ai]#

5.3 调用模型

curl --location --request POST 'http://127.0.0.1:11434/v1/chat/completions' \
--header 'Content-Type: application/json' \
--data '{
    "model": "deepseek-r1:1.5b",
    "messages": [
        {
        "role": "user",
        "content": "你好"
        }
    ],
    "stream": false
}'


[root@node1 ai]# curl --location --request POST 'http://127.0.0.1:11434/v1/chat/completions' \
> --header 'Content-Type: application/json' \
> --data '{
>     "model": "deepseek-r1:1.5b",
>     "messages": [
>         {
>         "role": "user",
>         "content": "你好"
>         }
>     ],
>     "stream": false
> }'
{"id":"chatcmpl-611","object":"chat.completion","created":1742568579,"model":"deepseek-r1:1.5b","system_fingerprint":"fp_ollama","choices":[{"index":0,"message":{"role":"assistant","content":"\u003cthink\u003e\n\n\u003c/think\u003e\n\n你好！很高兴见到你。有什么我可以帮你的吗？"},"finish_reason":"stop"}],"usage":{"prompt_tokens":4,"completion_tokens":17,"total_tokens":21}}
[root@node1 ai]#