企业微信网站建设外贸网站图片素材

本地Ollama+Spring AI alibaba智能客服（飞机票预定示例Demo）Mac版

前言：之前了解到很多AI智能体项目都是利用Python开发的，本人想利用Java进行开发，于是发现了Spring AI Alibaba框架，再加上本地是使用Ollama安装了llama3.2:3b，为此就结合本地模型，跑了一下官网的飞机票预订的智能体示例，其中也遇到了一些问题，特此记录一下。

一、简介：Spring AI alibaba

Spring AI Alibaba 开源项目基于 Spring AI 构建，是阿里云通义系列模型及服务在 Java AI 应用开发领域的最佳实践，提供高层次的 AI API 抽象与云原生基础设施集成方案，帮助开发者快速构建 AI 应用。想要了解更多请参考Spring AI alibaba官网。

二、核心概念

• 模型（比如：DeepSeek R1、ChatGPT3等）
• 提示词（比如：设定系统角色告知对话的背景）
• 提示词模版（比如：今天的日期是 {current_date}），利用了 {current_date}进行占位
• 嵌入（比如：将文本文字进行向量化表示）

• token（将一句话或一段文本进行转换为token）

• 结构化输出（在提示词中要求返回固定JSON）

三、Demo实战

3.1环境要求

1、本地要安装Ollama、下载模型llama3.2:3b

ollama run llama3.2:3b 

2、下载JDK17

3、配置Maven

3.2目录结构

3.3 代码仓库

github仓库

3.4 核心逻辑

四、测试结果

4.1对话查询详情

#查询预定信息
GET 127.0.0.1:8080/api/bookings#对话
POST 127.0.0.1:8080/api/assistant/chat?chatId=1&userMessage=104,王通义,预定详情

4.2取消预定飞机票

#对话
POST 127.0.0.1:8080/api/assistant/chat?chatId=4&userMessage=取消预定#对话
POST 127.0.0.1:8080/api/assistant/chat?chatId=4&userMessage=yes#查询预定信息
GET 127.0.0.1:8080/api/bookings

4.3查看运行日志

注：可以看到对话过程中有调用工具

五、QA

Q：对话的controller中不知道为啥不能使用流式返回，如果使用流式返回的话就好像不能去调用执行工具？

A：

	public String chat(String chatId, String userMessageContent) {return this.chatClient.prompt().system(s -> s.param("current_date", LocalDate.now().toString())).user(userMessageContent).advisors(a -> a.param(CHAT_MEMORY_CONVERSATION_ID_KEY, chatId).param(CHAT_MEMORY_RETRIEVE_SIZE_KEY, 100)).call().content();}