当前位置：首页 > news >正文

Spring AI 函数调用（Function Call）系统设计方案

news 来源：原创 2025/5/7 14:05:55

一、系统概述与设计目标

1.1 核心目标

从零构建一个灵活、安全、高效的函数调用系统，使大语言模型能够在对话中调用应用程序中的方法，同时保持良好的开发体验和企业级特性。

1.2 主要功能需求

支持通过注解将普通Java方法标记为可被AI调用的函数
自动生成符合LLM要求的函数描述和参数定义
安全地解析和执行模型的函数调用请求
处理并返回执行结果给模型
提供扩展点以支持不同LLM提供商的特定实现

1.3 设计原则

开发便捷性：使用声明式注解，减少开发者的工作量
安全可控：严格的调用权限和参数验证
高度可扩展：模块化设计，易于扩展新功能
与Spring生态集成：利用Spring的依赖注入、AOP等优势

二、系统架构设计

2.1 整体架构图

┌─────────────────────────────────────┐
│             应用层                   │
│  ┌─────────────┐   ┌──────────────┐ │
│  │用户定义的工具│   │  业务服务    │ │
│  └─────────────┘   └──────────────┘ │
└───────────────────────┬─────────────┘│
┌───────────────────────▼─────────────┐
│           Spring AI 函数调用系统     │
│  ┌─────────────┐   ┌──────────────┐ │
│  │工具注册中心 │   │ 函数调用引擎 │ │
│  └─────────────┘   └──────────────┘ │
│  ┌─────────────┐   ┌──────────────┐ │
│  │参数转换器   │   │ 结果处理器   │ │
│  └─────────────┘   └──────────────┘ │
└───────────────────────┬─────────────┘│
┌───────────────────────▼─────────────┐
│           模型集成层                 │
│  ┌─────────────┐   ┌──────────────┐ │
│  │OpenAI适配器 │   │其他模型适配器│ │
│  └─────────────┘   └──────────────┘ │
└───────────────────────┬─────────────┘│
┌───────────────────────▼─────────────┐
│           外部LLM接口                │
│  ┌─────────────┐   ┌──────────────┐ │
│  │OpenAI API   │   │其他模型API   │ │
│  └─────────────┘   └──────────────┘ │
└─────────────────────────────────────┘

2.2 核心组件

工具注册中心（Tool Registry）：管理所有可用工具的元数据和实例
函数调用引擎（Function Call Engine）：处理模型函数调用请求，执行目标方法
参数转换器（Parameter Converter）：转换JSON参数为Java对象
结果处理器（Result Handler）：处理方法执行结果，转换为标准格式
模型适配器（Model Adapter）：适配不同LLM提供商的特定API和格式要求

三、详细设计与核心代码实现

3.1 注解定义

package org.springframework.ai.function;import java.lang.annotation.ElementType;
import java.lang.annotation.Retention;
import java.lang.annotation.RetentionPolicy;
import java.lang.annotation.Target;/*** 标记一个方法为AI可调用的工具函数*/
@Target(ElementType.METHOD)
@Retention(RetentionPolicy.RUNTIME)
public @interface Tool {/*** 工具名称，如果不提供则使用方法名*/String name() default "";/*** 工具描述，将发送给LLM帮助其理解工具用途*/String description() default "";/*** 是否直接返回结果而不传递给模型*/boolean returnDirect() default false;
}/*** 标记方法参数，提供参数描述和类型信息*/
@Target(ElementType.PARAMETER)
@Retention(RetentionPolicy.RUNTIME)
public @interface Param {/*** 参数名称*/String name() default "";/*** 参数描述*/String description() default "";/*** 是否必需*/boolean required() default true;
}

3.2 工具描述模型

package org.springframework.ai.function.model;import java.util.List;/*** 工具描述，会被转换为JSON Schema发送给LLM*/
public class ToolDescription {private String name;private String description;private List<ParameterDescription> parameters;private boolean returnDirect;// getters, setters, constructors/*** 转换为OpenAI格式的函数定义*/public Map<String, Object> toOpenAiFunctionDefinition() {Map<String, Object> function = new HashMap<>();function.put("name", this.name);function.put("description", this.description);Map<String, Object> parametersSchema = new HashMap<>();parametersSchema.put("type", "object");Map<String, Object> properties = new HashMap<>();List<String> required = new ArrayList<>();for (ParameterDescription param : parameters) {Map<String, Object> property = new HashMap<>();property.put("type", param.getType());property.put("description", param.getDescription());properties.put(param.getName(), property);if (param.isRequired()) {required.add(param.getName());}}parametersSchema.put("properties", properties);parametersSchema.put("required", required);function.put("parameters", parametersSchema);return function;}
}/*** 参数描述*/
public class ParameterDescription {private String name;private String description;private String type;private boolean required;// getters, setters, constructors
}

3.3 工具注册中心

package org.springframework.ai.function.registry;import org.springframework.ai.function.Tool;
import org.springframework.ai.function.model.ToolDescription;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.context.ApplicationContext;
import org.springframework.stereotype.Component;import javax.annotation.PostConstruct;
import java.lang.reflect.Method;
import java.util.HashMap;
import java.util.List;
import java.util.Map;
import java.util.concurrent.ConcurrentHashMap;
import java.util.stream.Collectors;/*** 工具注册中心，管理所有可用工具*/
@Component
public class ToolRegistry {private final Map<String, ToolRegistration> registeredTools = new ConcurrentHashMap<>();private final ApplicationContext applicationContext;private final ToolDescriptionGenerator descriptionGenerator;@Autowiredpublic ToolRegistry(ApplicationContext applicationContext