当前位置: 首页 > news >正文

JBoltAI_SpringBoot如何区分DeepSeek R1深度思考和具体回答的内容(基于Ollama)?

当我们用Ollama运行DeepSeek R1模型,向它提问时,会发现它的回答里是有think标签的

如果我们直接将Ollama的回复用于生产环境,肯定是不行的,对于不同的场景,前面输出的一堆内容,可能并不需要在客户端展示,对于用户体验来说,一个莫名其妙的标签包裹着一大堆文字,看起来也是不那么友好的。

来看一下我们的JBoltAI-SpringBoot版AI开发框架是怎么解决这个问题的。

  1. 首先我们加载一下Ollama DeepSeek R1大模型资源(资源加载后可以在项目中被重复调用,我们的框架也支持近20种主流的大模型厂商、平台)

    ResourceCenter.registerOllamaAI("http://192.168.31.14:11434/api/chat", "deepseek-r1:7b");
    1. 调用大模型

      JBoltAI.chat(AIModel.OLLAMA).prompt("你觉得AI未来发展方向会是什么")
              .onThinking((e, think, status) -> {
                  if (status == ThinkStatus.START) {
                      System.out.println("===== 思考开始 =============");
                  } else if (status == ThinkStatus.RUNNING) {
                      System.out.print(think);
                  } else if (status == ThinkStatus.COMPLETE) {
                      System.out.print(think);
                      System.out.println("===== 思考结束 =============");
                      System.out.println("===== 开始回答 =============");
                  }
              })
              .onSuccess((e, r) -> {
                  System.out.print(r.getContent());
              }).onFail((e, error) -> {
                  System.out.println("发生异常了,异常信息:" + error.getFullMsg());
              }).publish().await();

      使用JBoltAI 调用大模型能力是非常方便的,JBoltAI.chat() 就可以发起一个聊天事件,通过传入大模型类型,就可以自动从资源池中找到可用的资源供事件使用,通过prompt() 方法就可以方便的传入提示词,通过onThinking 回调,就可以自由处理深度思考的内容,通过onSuccess 回调可以自由处理大模型返回 的正式回答内容。

      框架对于所有支持的大模型,都提供了统一的调用方式,不需要开发者关心底层逻辑,不需要关系不同大模型的接口差异和参数差异,极大的降低了开发者的开发难度。

      1. 看一下执行效果:

        欢迎大家尝试使用SpringBoot版JBoltAI框架,它会是你开发AI应用的最强大的助手。

        相关文章:

      2. 计算机毕业设计SpringBoot+Vue.js手机商城 (源码+文档+PPT+讲解)
      3. 图书管理系统框架构建的收获
      4. rdiff-backup备份
      5. MySQL数据库入门到大蛇尚硅谷宋红康老师笔记 高级篇 part 6
      6. Java中的大数据流处理框架与技术比较
      7. 计算机毕业设计SpringBoot+Vue.js公司日常考勤系统(源码+文档+PPT+讲解)
      8. SourceTree配置SSH步骤详解
      9. SAP-ABAP:SAP数据库视图(Database View)详解-创建
      10. CAN硬件协议详解
      11. 怎么排查页面响应慢的问题
      12. Nginx系列09(Nginx 与其他服务集成、实战项目)
      13. 机器学习:线性回归,梯度下降
      14. freertos 学习5--链路状态设置
      15. 房屋租赁|房屋租赁系统|基于Springboot的房屋租赁系统设计与实现(源码+数据库+文档)
      16. k8s出问题后 应该查看哪些内容
      17. QT基础十、表格组件:QTableWidget
      18. Text-to-SQL将自然语言转换为数据库查询语句
      19. 【网络安全】敏感字段扫描工具(可用于漏洞挖掘、代码审计)
      20. 为什么深度学习选择Tensor而非NumPy数组?核心优势深度解析
      21. 两道算法练习
      22. 新化网站建设/游戏推广代理平台
      23. 做爰全过程免费的视频网站爱/今日新闻最新消息大事
      24. 建筑设计公司资质/优化关键词排名
      25. 58同城有做网站/网络营销课程思政
      26. 可视化网站开发工具有哪些/免费发帖平台
      27. 好用的建筑设计网站/流量精灵网页版