当前位置：首页 > news >正文

Spring AI介绍、应用场景和示例代码

news 来源：原创 2025/5/10 21:38:31

Spring AI 是由 Spring 团队推出的一个项目，旨在简化将 AI 能力（如大语言模型）集成到 Spring 应用中的过程。它为常见的 AI 模型服务（如 OpenAI、Azure OpenAI、HuggingFace、Ollama 等）提供统一的访问抽象。Spring AI 基于 Spring Boot 和 Spring Framework 的生态系统，结合 spring-ai 的组件，为开发者提供一致且可扩展的方式调用 AI 服务。

🌟 Spring AI 主要特性

对多种 LLM 提供统一抽象接口。
支持聊天模型（chat completion）、文本补全、文档问答（RAG）、embedding 等。
支持 VectorStore，如 PostgreSQL、Redis、Milvus、Pinecone 等。
集成 Spring Boot，支持配置驱动、自动装配、注入等。
简化 LLM 在服务端的调用与集成，便于构建 AI 驱动的应用。

📌 适用场景

场景	描述
智能客服	利用 LLM 实现基于文档或 FAQ 的自动问答。
智能代码助手	结合 Embedding 和代码片段进行语义搜索与补全。
文档问答系统	使用 RAG 技术，对本地文档进行语义索引和问答。
自动摘要生成	处理输入内容生成简洁摘要。
多轮对话	搭建具备上下文记忆的聊天机器人。
嵌入搜索	对文档或数据做向量化表示，实现语义搜索。

🧱 核心模块

ChatClient：统一的聊天模型接口。
EmbeddingClient：将文本转为向量的接口。
VectorStore：用于存储和查询嵌入向量。
Retriever：从 VectorStore 中检索相关信息。
PromptTemplate：提示词模板，便于控制 LLM 输出。

一、基础示例代码（基于 OpenAI）

1. 添加依赖（Maven）

<dependency><groupId>org.springframework.ai</groupId><artifactId>spring-ai-openai-spring-boot-starter</artifactId><version>0.8.1</version> <!-- 最新版本请查询 Maven 中央仓库 -->
</dependency>

2. 配置 application.yml

spring:ai:openai:api-key: ${OPENAI_API_KEY}

3. 使用 ChatClient 实现对话

import org.springframework.ai.chat.ChatClient;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.web.bind.annotation.*;@RestController
@RequestMapping("/chat")
public class ChatController {@Autowiredprivate ChatClient chatClient;@GetMappingpublic String chat(@RequestParam String message) {return chatClient.call(message);}
}

4. 使用 PromptTemplate 构建 Prompt

import org.springframework.ai.chat.messages.*;
import org.springframework.ai.prompt.*;
import org.springframework.ai.chat.ChatClient;
import org.springframework.stereotype.Service;import java.util.Map;@Service
public class PromptService {private final ChatClient chatClient;public PromptService(ChatClient chatClient) {this.chatClient = chatClient;}public String summarizeText(String text) {PromptTemplate promptTemplate = new PromptTemplate("请总结以下文本内容：{text}");Prompt prompt = promptTemplate.create(Map.of("text", text));return chatClient.call(prompt).getResult().getOutput().getContent();}
}

二、嵌入与向量存储（RAG 基础）

1. 添加依赖

<dependency><groupId>org.springframework.ai</groupId><artifactId>spring-ai-chroma-store-spring-boot-starter</artifactId><version>0.8.1</version>
</dependency>

2. 配置嵌入和向量存储

spring:ai:openai:embedding:enabled: truevectorstore:chroma:uri: http://localhost:8000

3. 示例代码：存储和查询文档

import org.springframework.ai.embedding.EmbeddingClient;
import org.springframework.ai.vectorstore.VectorStore;
import org.springframework.ai.vectorstore.VectorStoreRetriever;
import org.springframework.ai.document.Document;
import org.springframework.stereotype.Service;import java.util.List;@Service
public class DocumentService {private final VectorStore vectorStore;private final VectorStoreRetriever retriever;public DocumentService(VectorStore vectorStore) {this.vectorStore = vectorStore;this.retriever = vectorStore.retriever();}public void addDocument(String content) {Document doc = new Document(content);vectorStore.add(List.of(doc));}public List<Document> searchSimilar(String query) {return retriever.similaritySearch(query);}
}

三、进阶：RAG 模式整合

可以将 Retriever 检索的文档内容拼接到 prompt 中，作为“上下文”传给 ChatClient，从而实现 RAG 模式。

public String answerWithContext(String question) {List<Document> docs = retriever.similaritySearch(question);String context = docs.stream().map(Document::getContent).collect(Collectors.joining("\n"));PromptTemplate promptTemplate = new PromptTemplate("根据以下内容回答问题：\n{context}\n问题：{question}");Prompt prompt = promptTemplate.create(Map.of("context", context, "question", question));return chatClient.call(prompt).getResult().getOutput().getContent();
}