当前位置: 首页 > news >正文

深入探索Anthropic Claude与Spring AI的融合应用

深入探索Anthropic Claude与Spring AI的融合应用

前言

在人工智能的蓬勃发展进程中,自然语言处理领域不断涌现出强大的模型和工具。Anthropic Claude系列基础AI模型凭借其出色的性能,在各种应用场景中展现出巨大潜力,为开发者和企业提供了丰富的可能性。而Spring AI作为一个致力于简化人工智能应用开发的框架,与Anthropic Claude的结合更是相得益彰。通过整合,开发者能够更便捷地利用Anthropic Claude模型的能力,构建出功能强大、智能高效的应用程序。本文将详细探讨如何在Spring AI环境中使用Anthropic Claude,涵盖从基础配置到高级功能实现的各个方面,帮助读者深入理解并掌握这一技术组合,为实际项目开发提供有力支持。

Anthropic Claude与Spring AI的集成要点

前提条件搭建

使用Anthropic Claude模型的首要步骤是获取API密钥。需要在Anthropic门户上创建账户,然后在API控制面板的“Get API Keys”页面生成密钥。对于Spring AI项目,可通过定义“spring.ai.anthropic.api - key”属性来设置该密钥,例如通过导出环境变量“export SPRING_AI_ANTHROPIC_API_KEY = ”的方式进行配置。

项目依赖配置

Spring AI工件发布于Maven Central和Spring Snapshot存储库。在构建系统中添加这些存储库后,为了实现有效的依赖管理,还需引入Spring AI提供的BOM(物料清单)。这确保了整个项目中Spring AI版本的一致性。此外,若要启用Spring AI为Anthropic Chat Client提供的自动配置功能,需在项目的Maven pom.xml或Gradle build.gradle文件中添加“spring - ai - starter - model - anthropic”依赖项。

配置属性详解

  1. 重试属性:以“spring.ai.retry”为前缀的属性用于配置Anthropic聊天模型的重试机制。比如“spring.ai.retry.max - attempts”定义了最大重试尝试次数,默认值为10;“spring.ai.retry.backoff.initial - interval”设置指数回退策略的初始休眠持续时间,默认为2秒等。目前,重试策略不适用于流式处理API。
  2. 连接属性:“spring.ai.anthropic”前缀的属性负责连接到Anthropic。其中,“spring.ai.anthropic.base - url”指定连接的URL,默认为“api.anthropic.com”;“spring.ai.anthropic.version”设置Anthropic API版本,默认为“2023 - 06 - 01”;“spring.ai.anthropic.api - key”需填入获取的API密钥。另外,“spring.ai.anthropic.beta - version”可用于启用新功能或实验性功能。
  3. 配置属性:通过“spring.ai.model.chat”前缀属性来控制聊天自动配置的启用和禁用。若要启用Anthropic聊天模型,设置“spring.ai.model.chat = anthropic”(默认即为启用状态)。而“spring.ai.anthropic.chat”前缀属性可对Anthropic聊天模型实施进行更细致的配置,如选择使用的模型(“spring.ai.anthropic.chat.options.model”)、设置采样温度(“spring.ai.anthropic.chat.options.temperature”)、控制生成的最大令牌数(“spring.ai.anthropic.chat.options.max - tokens”)等。

运行时选项设置

AnthropicChatOptions.java提供了模型配置的多种选项,如指定使用的模型、温度、最大令牌计数等。在启动时,既可以使用AnthropicChatModel(api, options)构造函数,也能通过“spring.ai.anthropic.chat.options.*”属性进行设置。在运行时,还可通过向Prompt调用添加特定配置来灵活调整模型行为。例如,为特定请求覆盖默认模型和温度:

ChatResponse response = chatModel.call(new Prompt("Generate the names of 5 famous pirates.",AnthropicChatOptions.builder().model("claude - 3 - 7 - sonnet - latest").temperature(0.4).build()));

同时,除了特定于模型的AnthropicChatOptions,也能使用通过ChatOptionsBuilder#builder()创建的可移植ChatOptions实例。

工具/函数调用实现

借助AnthropicChatModel,Anthropic Claude模型能够智能地选择输出包含参数的JSON对象,以调用一个或多个已注册的函数。这一功能为连接LLM(大语言模型)功能与外部工具和API提供了强大手段。通过这种方式,开发者可以极大地拓展模型的应用场景,使其能够更好地满足实际业务需求。

多模态功能应用

  1. 图像支持:Anthropic Claude 3目前支持base64编码的images,以及image/jpeg、image/png、image/gif和image/webp等media类型。Spring AI的Message界面通过引入Media类型来支持多模态AI模型。例如,以下代码展示了如何组合用户文本与图像:
byte[] imageData = new ClassPathResource("/multimodal.test.png").getContentAsByteArray();
var userMessage = new UserMessage("Explain what do you see on this picture?",List.of(new Media(MimeTypeUtils.IMAGE_PNG, this.imageData)));
ChatResponse response = chatModel.call(new Prompt(List.of(this.userMessage)));
logger.info(response.getResult().getOutput().getContent());

模型能够对图像进行分析,并结合文本问题生成合理的回答。

它将multimodal.test.png图像:

在这里插入图片描述
以及文本消息“Explain what do you see on this picture?”,并生成如下响应:

The image shows a close-up view of a wire fruit basket containing several pieces of fruit.
...
  1. PDF支持:从Sonnet 3.5版本开始,Anthropic Claude提供了PDF支持(测试版)。可以使用application/pdf media type将PDF文件附加到消息中,实现基于PDF内容的问答和总结等功能。例如:
var pdfData = new ClassPathResource("/spring - ai - reference - overview.pdf");
var userMessage = new UserMessage("You are a very professional document summarization specialist. Please summarize the given document.",List.of(new Media(new MimeType("application", "pdf"), pdfData)));
var response = this.chatModel.call(new Prompt(List.of(userMessage)));

Samples控制器示例

在创建新的Spring Boot项目并添加“spring - ai - starter - model - anthropic”依赖后,可在src/main/resources目录下的application.properties文件中进行配置,以启用和定制Anthropic聊天模型。例如:

spring.ai.anthropic.api - key = YOUR_API_KEY
spring.ai.anthropic.chat.options.model = claude - 3 - 5 - sonnet - latest
spring.ai.anthropic.chat.options.temperature = 0.7
spring.ai.anthropic.chat.options.max - tokens = 450

随后,可以创建一个简单的@Controller类来使用该聊天模型生成文本。如以下ChatController示例,它提供了“/ai/generate”和“/ai/generateStream”两个接口,分别用于非流式和流式的文本生成:

@RestController
public class ChatController {private final AnthropicChatModel chatModel;@Autowiredpublic ChatController(AnthropicChatModel chatModel) {this.chatModel = chatModel;}@GetMapping("/ai/generate")public Map generate(@RequestParam(value = "message", defaultValue = "Tell me a joke") String message) {return Map.of("generation", this.chatModel.call(message));}@GetMapping("/ai/generateStream")public Flux<ChatResponse> generateStream(@RequestParam(value = "message", defaultValue = "Tell me a joke") String message) {Prompt prompt = new Prompt(new UserMessage(message));return this.chatModel.stream(prompt);}
}

手动配置方式

若不使用自动配置,也可手动配置AnthropicChatModel。首先在项目的Maven pom.xml或Gradle build.gradle文件中添加“spring - ai - anthropic”依赖项。然后,通过以下代码创建AnthropicChatModel并用于文本生成:

var anthropicApi = new AnthropicApi(System.getenv("ANTHROPIC_API_KEY"));
var chatModel = new AnthropicChatModel(this.anthropicApi,AnthropicChatOptions.builder().model("claude - 3 - opus - 20240229").temperature(0.4).maxTokens(200).build());
ChatResponse response = this.chatModel.call(new Prompt("Generate the names of 5 famous pirates."));
// Or with streaming responses
Flux<ChatResponse> response = this.chatModel.stream(new Prompt("Generate the names of 5 famous pirates."));

这里的AnthropicChatOptions提供了聊天请求的详细配置信息,AnthropicChatOptions.Builder则采用了Fluent Options Builder模式,方便进行配置构建。

低级AnthropicApi客户端

AnthropicApi为Anthropic Message API提供了轻量级的Java客户端。通过以下简单代码段可展示其基本使用方式:

AnthropicApi anthropicApi = new AnthropicApi(System.getenv("ANTHROPIC_API_KEY"));
AnthropicMessage chatCompletionMessage = new AnthropicMessage(List.of(new ContentBlock("Tell me a Joke?")), Role.USER);
// Sync request
ResponseEntity<ChatCompletionResponse> response = this.anthropicApi.chatCompletionEntity(new ChatCompletionRequest(AnthropicApi.ChatModel.CLAUDE_3_OPUS.getValue(),List.of(this.chatCompletionMessage), null, 100, 0.8, false));
// Streaming request
Flux<StreamResponse> response = this.anthropicApi.chatCompletionStream(new ChatCompletionRequest(AnthropicApi.ChatModel.CLAUDE_3_OPUS.getValue(),List.of(this.chatCompletionMessage), null, 100, 0.8, true));

更多详细信息可参考AnthropicApi.java的JavaDoc,AnthropicApiIT.java测试类也提供了一些使用该轻量级库的示例。

以下类图说明了AnthropicApi聊天界面和构建块:
在这里插入图片描述
在这里插入图片描述

总结

通过本文的介绍,我们全面了解了在Spring AI框架下使用Anthropic Claude模型的各个方面。从前期的前提条件准备、项目依赖和配置属性的设置,到运行时选项的灵活调整,再到强大的工具/函数调用以及多模态功能的实现,Spring AI与Anthropic Claude的集成展现出了强大的开发能力和丰富的应用场景。无论是构建智能客服、文档处理工具还是其他自然语言处理相关的应用,这一技术组合都能提供高效、便捷的解决方案。然而,在实际应用过程中,开发者可能会面临一些挑战,例如模型配置的优化以平衡性能和成本、多模态数据处理的复杂性等。但随着技术的不断发展和完善,相信这些问题都将逐步得到解决。希望本文能为读者在利用Anthropic Claude和Spring AI进行项目开发时提供全面且深入的指导,助力开发者打造出更具创新性和实用性的人工智能应用,在不断发展的AI领域中取得更好的成果。

相关文章:

  • 【STM32单片机】#13 RTC实时时钟
  • 分析strtol(),strtoul()和strtod()三个函数的功能
  • 从网页到桌面:将 Web 应用无缝迁移为 Electron 桌面程序
  • 电赛经验分享——模块篇
  • 定积分的定义式(黎曼和极限定义)
  • 协议(消息)生成
  • STA中的multi_cycle 和false_path详细讨论
  • 从Rtos到Linux:学习的策略
  • Dify框架面试内容整理-如何评估基于Dify开发的AI应用的效果?
  • 【Vue】Vue3源码解析与实现原理
  • 基于muduo库实现高并发服务器
  • Linux文件复制命令精要指南:cp与scp详解
  • DotNetBrowser 3.2.0 版本发布啦!
  • RPC是什么
  • 线程局部存储----TLS
  • 使用AI 将文本转成视频 工具 介绍
  • 《MATLAB实战训练营:从入门到工业级应用》高阶挑战篇-《5G通信速成:MATLAB毫米波信道建模仿真指南》
  • zotero pdf中英翻译插件使用
  • 10 种最新的思维链(Chain-of-Thought, CoT)增强方法
  • 星途-(4)
  • 川大全职引进考古学家宫本一夫,他曾任日本九州大学副校长
  • 潘功胜:坚定支持汇金公司在必要时实施对股票市场指数基金的增持
  • 巴基斯坦宣布关闭全国空域48小时
  • 微软通讯软件Skype正式停止运营:斥资85亿美元购入,月活用户曾超3亿
  • 新闻1+1丨多地政府食堂开放“舌尖上的服务”,反映出怎样的理念转变?
  • 贵州召开全省安全生产电视电话会议:以最严要求最实举措守牢安全底线