【AI】模型接入初始化(Lanchain4j)
【AI】模型接入初始化(Lanchain4j)
文章目录
- 【AI】模型接入初始化(Lanchain4j)
- 引子
- 1. Lanchain4j
- 1.1 简介
- 1.2 使用入门
- 1.2.1 构建Maven项目
- 1.2.2 接入大模型
- 1.2.3 测试代码
- 2. 整合SpringBoot
- 2.1 引入依赖
- 2.2 配置模型参数(application.properties)
- 2.3 测试代码
- 2.4 接口实现
引子
从2022年11月30日OpenAI发布了ChatGPT(GPT-3.5)到现在已经过去快三年了,尤其是deepseek等国产模型的出现ai的使用其实已经融入到了我们的日常开发生活中了。对于模型的开发研究离我们也许有些远,但通过代码去将它应用到我们的项目中其实现在已经能够实现了,甚至可以通过接入其它的大模型来搭建自己的ai智能助手,接下来我将引入Java应用程序能够使用的技术-Lanchain4j
1. Lanchain4j
1.1 简介
Lanchian4j的目标是简化大语言模型(LLM - Large Language Model)集成到Java应用程序中的过程
1.2 使用入门
1.2.1 构建Maven项目
1.2.2 接入大模型
通过 LangChain4j 框架将一个大语言模型(如 GPT-4o-mini)接入 Spring Boot 项目,需要引入依赖如下:
<dependency><groupId>org.springframework.boot</groupId><artifactId>spring-boot-starter-test</artifactId><scope>test</scope>
</dependency><!--基于open-ai的langchain4j接口:ChatGPT 、deepseek都是open-ai标准下的大模型 -->
<dependency><groupId>dev.langchain4j</groupId><artifactId>langchain4j-open-ai</artifactId>
</dependency><!--注意这里是dependencyManagement -->
<dependencyManagement><dependencies><dependency><groupId>org.springframework.boot</groupId><artifactId>spring-boot-dependencies</artifactId><version>${spring-boot.version}</version><type>pom</type><scope>import</scope></dependency><!--引入langchain4j依赖管理清单 --><dependency><groupId>dev.langchain4j</groupId><artifactId>langchain4j-bom</artifactId><version>${langchain4j.version}</version><type>pom</type><scope>import</scope></dependency>
</dependencyManagement>
1.2.3 测试代码
接入任何一个大模型都需要先去申请api-key,这里我们使用Lanchain4j提供的演示密钥,这个密钥是免费的,有使用的配置限额,同时仅限于gpt-4o-mini模型
@SpringBootTest
public class LLMTest {/*** gpt-4o-mini语言模型接入测试*/@Testpublic void testGPTDemo() {//初始化模型OpenAiChatModel model = OpenAiChatModel.builder()// LangChain4j提供的代理服务器,该代理服务器会将演示密钥替换成真实密钥, 再将请求转发给OpenAI API.baseUrl("http://langchain4j.dev/demo/openai/v1")// 设置模型api地址(如果apiKey="demo",则可省略baseUrl的配置).apiKey("demo") //设置模型apiKey.modelName("gpt-4o-mini") //设置模型名称.build();// 向大模型提问String answer = model.chat("你是谁");System.out.println(answer);}
}
执行结果:
2. 整合SpringBoot
将已接入的大语言模型(如 GPT-4o-mini via LangChain4j)与 Spring Boot 完整整合,构建一个可通过 REST 接口访问的大模型应用
2.1 引入依赖
<dependency><groupId>dev.langchain4j</groupId><artifactId>langchain4j-open-ai-spring-boot-starter</artifactId>
</dependency>
2.2 配置模型参数(application.properties)
langchain4j.open-ai.chat-model.base-url=http://langchain4j.dev/demo/openai/v1
langchain4j.open-ai.chat-model.api-key=demo
langchain4j.open-ai.chat-model.model-name=gpt-4o-mini
langchain4j.open-ai.chat-model.log-requests=true
langchain4j.open-ai.chat-model.log-responses=truelogging.level.root=debug
2.3 测试代码
/*** 整合SpringBoot */
@Autowired
private OpenAiChatModel openAiChatMode
@Test
public void testSpringBoot() {//向模型提问String answer = openAiChatModel.chat("你是谁") ;//输出结果System.out.println (answer) ;
}
执行结果:
2.4 接口实现
自行选择接口测试工具访问接口,执行结果:
接口写好后就可以自己尝试搭建一个前端界面来实现对话了:
其实完成上面的内容后,我们已经向搭建自己的ai助手迈出了关键性的一步了!!在接下来的专题内容中我会引入其它模型的应用,实现文生图、深度思考、记忆对话、文档理解等内容,敬请期待!!💕( •̀ ω •́ )✧( •̀ ω •́ )✧✨