沂源网站建设郑州计算机培训机构

前置条件：jdk17 ，springboot版本3.4.6，已安装ollama并下好大模型

参考文档：LangChain4j官网

LangChain4j | LangChain4j

1.引入maven依赖

先浏览一下官网，在Get Started中可以看到官方已经说明引入哪些依赖，红框部分就是需要的依赖，这里我选择用绿框部分来做整体的版本管理

因为我们集成的是本地的ollama平台，所以找一下ollama的依赖，在官网中也可以找到

最终我们的pom文件中如下所示，代码会在最后放出

2.新建接口类

建立一个controller，写一个最简单的get请求，请求写ollama平台的地址就可以，模型名称写自己实际的，可以在cmd输入ollama list查看（安装ollama以及下载大模型可以查看另一篇博客五分钟本地部署大模型-CSDN博客）

流式输出的按照以下写法

3.运行项目

项目启动后访问 http://localhost:8080/ai/generate?message=介绍一下你自己  可以看到返回内容确实是我们ollama中的qwen大模型了

如有需要可下载demo代码查看：https://download.csdn.net/download/Cha0DD/90903889