当前位置: 首页 > news >正文

通过API 调用本地部署 deepseek-r1 模型

如何本地部署 deepseek 请参考(windows 部署安装 大模型 DeepSeek-R1)

那么实际使用中需要开启API模式,这样可以无拘无束地通过API集成的方式,集成到各种第三方系统和应用当中。

上遍文章是基于Ollama框架运行了deepSeek R1模型,ollama相当于一个代理,我们直接调用ollama的API即可实现大模型接口的调用。

OpenAI的接口调用

from openai import OpenAI
client = OpenAI(
    base_url='http://localhost:11434/v1/', 
    api_key='ollama',
)

chat_completion = client.chat.completions.create(
    messages=[
        {
            'role': 'user',
            'content': '土拨鼠原产地',
        }
    ],
    model='deepseek-r1:1.5b',
    # stream=True,
    temperature=0.0,  
)
print(chat_completion)

输出:
在这里插入图片描述

使用ollama简易API调用

from ollama import chat
from ollama import ChatResponse
response: ChatResponse = chat(model='deepseek-r1:1.5b', messages=[
  {
    'role': 'user',
    'content': '土拨鼠原产地',
  },
])
print(response['message']['content'])
# or access fields directly from the response object
print(response.message.content)

输出:
在这里插入图片描述

http://www.dtcms.com/a/26976.html

相关文章:

  • 关系中出现这10个信号,离分手就不远了(爱情友情都适用)
  • idea连接gitee后.反向创建仓库和分支
  • 前端基础入门:HTML、CSS 和 JavaScript
  • 【股票数据API接口28】如何获取强势股池数据之Python、Java等多种主流语言实例代码演示通过股票数据接口获取数据
  • Scrapy:DownloaderAwarePriorityQueue队列设计详解
  • 企业软件合规性管理:构建高效、安全的软件资产生态
  • docker知识
  • 网工项目实践2.8 IPv6设计及网络优化需求分析及方案制定
  • 2025.2.20总结
  • 分布式架构与XXL-JOB
  • Redis常用命令合集【二】
  • 【Axure高保真原型】嵌套表格
  • 【LeetCode Hot100 链表(上)】相交链表、反转链表、回文链表、环形链表、合并两个有序链表、两数相加
  • PrimeFaces实战:IdleMonitor与Ajax的完美结合
  • 论文笔记(七十二)Reward Centering(二)
  • 《天津大学DeepSeek原理与效应》.pdf(文末有完整版下载地址)
  • Python 爬虫selenium
  • Es的text和keyword类型以及如何修改类型
  • istio实现灰度发布,A/B发布, Kiali网格可视化(二)
  • QEMU源码全解析 —— 内存虚拟化(15)
  • requests.exceptions.JSONDecodeError: Expecting value: line 2 column 1 (char 1)
  • 原生稀疏注意力机制(NSA):硬件对齐且可原生训练的稀疏注意力机制-论文阅读
  • bash+crontab充当半个守护进程的歪招
  • 风铃摇晃的弧度与不安等长
  • MySQL 主从复制原理
  • nim游戏及其进阶 [SDOI2011] 黑白棋 [SDOI2019] 移动金币
  • Android系统开发 给system/app传包报错
  • 【CUDA 】第4章 全局内存——4.4 核函数可达到的带宽(4对角转置)
  • CentOS建立ssh免密连接(含流程剖析)
  • IPoIB 接收数据流程分析