根据LangChain4j官方文档,三分钟完成Springboot项目集成LangChain4j
前置条件:jdk17 ,springboot版本3.4.6,已安装ollama并下好大模型
参考文档:LangChain4j官网
LangChain4j | LangChain4j
1.引入maven依赖
先浏览一下官网,在Get Started中可以看到官方已经说明引入哪些依赖,红框部分就是需要的依赖,这里我选择用绿框部分来做整体的版本管理
因为我们集成的是本地的ollama平台,所以找一下ollama的依赖,在官网中也可以找到
最终我们的pom文件中如下所示,代码会在最后放出
2.新建接口类
建立一个controller,写一个最简单的get请求,请求写ollama平台的地址就可以,模型名称写自己实际的,可以在cmd输入ollama list查看(安装ollama以及下载大模型可以查看另一篇博客五分钟本地部署大模型-CSDN博客)
流式输出的按照以下写法
3.运行项目
项目启动后访问 http://localhost:8080/ai/generate?message=介绍一下你自己 可以看到返回内容确实是我们ollama中的qwen大模型了
如有需要可下载demo代码查看:https://download.csdn.net/download/Cha0DD/90903889