当前位置: 首页 > wzjs >正文

花生壳盒子可以做网站服务器响应式网站模板的优势

花生壳盒子可以做网站服务器,响应式网站模板的优势,山东网站建设好不好,智慧团建网站登陆Chat Memory介绍 大型语言模型(LLM)是无状态的,这意味着它们不保留关于以前互动的信息。为了解决这个问题,Spring AI提供了Chat Memory(聊天记忆)功能。通过Chat Memory,用户可以实现在与LLM的…

Chat Memory介绍

大型语言模型(LLM)是无状态的,这意味着它们不保留关于以前互动的信息。为了解决这个问题,Spring AI提供了Chat Memory(聊天记忆)功能。通过Chat Memory,用户可以实现在与LLM的多次交互中存储和检索信息。

聊天记忆的底层存储由ChatMemoryRepository处理,其唯一责任是存储和检索消息。决定保留哪些消息及何时删除这些消息的权利在于ChatMemory的实现。策略可能包括保留最近的N条消息,保留一定时间段的消息,或者保留指定最大令牌数的消息。

ChatMemory当前有一种实现:MessageWindowChatMemory。MessageWindowChatMemory 维护一个最多可达到指定最大大小(默认:20 条消息)的消息窗口。当消息数量超过此限制时,旧消息会被驱逐,但系统消息会被保留。如果添加了一条新的系统消息,则会从聊天记忆中删除所有以前的系统消息。这确保了最新的上下文始终可用于对话,同时保持聊天记忆使用在可控范围内。

ChatModel对象使用Chat Memory

不使用Chat Memory的现象

    @GetMapping("/chat")public String chat() {String answer = this.chatModel.call("你好,我是老任与码");System.out.println(answer);String answer2 = this.chatModel.call("我是谁");System.out.println(answer2);return "success";}

输出结果:

根据输出结果可以看到,第一次提问时,虽然已经告知大模型自己的名字,但是第二次提问时,大模型并不能回答出正确答案。这就说明本例中,两次提问是相互独立的,大模型是无状态的。

使用Chat Memory

不需要任何配置,即可直接注入ChatMemory对象:

@RestController
@RequestMapping("/memory")
public class MemoryController {@Resourceprivate ZhiPuAiChatModel chatModel;@Resourceprivate ChatClient chatClient;// 可以直接注入,也可以自定义创建@Resourceprivate ChatMemory chatMemory;......}

也可以在配置类中创建ChatMemory对象后,再注入:

    @Beanpublic ChatMemory chatMemory() {MessageWindowChatMemory memory = MessageWindowChatMemory.builder().maxMessages(10).chatMemoryRepository(new InMemoryChatMemoryRepository()).build();return memory;}

 本例根据MessageWindowChatMemory创建ChatMemory对象,通过maxMessage(10)方法指定存储的最大的消息条数是10条,通过chatMemoryRepository(new InMemoryChatMemoryRepository())方法,表示聊天的上下文消息存储在内存中。

测试代码:

    @GetMapping("/chat3")public String chat3(String conversationId) {UserMessage userMessage1 = new UserMessage("你好,我是老任与码" + conversationId);// 将消息添加到ChatMemory中// conversationId表示和大模型的会话id,一般可以使用用户id表示,用于区分不同的用户的聊天上下文信息chatMemory.add(conversationId, userMessage1);// 提问ChatResponse response1 = this.chatModel.call(new Prompt(chatMemory.get(conversationId)));System.out.println("answer1:" + response1.getResult().getOutput().getText());// 将回答也添加到ChatMemory中chatMemory.add(conversationId, response1.getResult().getOutput());// 第二次提问,也需要将消息添加到ChatMemoryUserMessage userMessage2 = new UserMessage("我是谁");chatMemory.add(conversationId, userMessage2);System.out.println(chatMemory.get(conversationId));ChatResponse response2 = this.chatModel.call(new Prompt(chatMemory.get(conversationId)));System.out.println("answer2:" + response2.getResult().getOutput().getText());return "success";}

输出结果:

根据输出结果,大模型根据上下文信息,给出了可能的答案。

通过调试查看ChatMemory对象中的信息:

根据调试可以看到,ChatMemory对象中的聊天上下文数据存储在ConcurrentHashMap对象中,key值表示conversationId,value值是我们聊天过程中的提问和回答的消息。

ChatMemory支持的存储方式

  • InMemoryChatMemoryRepository表示上下文消息存储在内存中
  • JdbcChatMemoryRepository表示使用 JDBC 在关系数据库中存储消息,支持PostgreSQL、MySQL / MariaDB、SQL Server、HSQLDB等数据库
  • CassandraChatMemoryRepository表示使用 Apache Cassandra 分布式数据库存储消息
  • Neo4jChatMemoryRepository表示将聊天消息作为节点和关系存储在 Neo4j 图数据库

ChatClient对象使用Chat Memory

在ChatClient中使用ChatMemory,需要指定对应的Advisor,支持的Advisor包括:

  • MessageChatMemoryAdvisor:此Advisor使用提供的实现类来管理对话记忆。在每次互动中,它从记忆中检索对话历史,并将其作为消息的集合包含在提示中。
  • ChatMemoryPromptChatMemoryAdvisor:此Advisor使用提供的实现来管理对话记忆。在每次互动中,它从记忆中检索对话历史,并将其作为普通文本附加到系统提示(SystemMessage)中。
  • ChatMemoryVectorStoreChatMemoryAdvisor:此Advisor使用提供的实现来管理对话记忆。在每次互动中,它从向量存储中检索对话历史,并将其作为普通文本附加到系统消息中。

本例使用MessageChatMemoryAdvisor:

    @Beanpublic ChatClient chatClient(ZhiPuAiChatModel chatModel) {return ChatClient.builder(chatModel)// MessageChatMemoryAdvisor 聊天记忆的advisor.defaultAdvisors(MessageChatMemoryAdvisor.builder(chatMemory()).build()).build();}

测试代码:

    @GetMapping("/chat4")public String chat4(String conversationId) {String answer1 = chatClient.prompt().user("我叫老任与码").advisors(a -> a.param(AbstractChatMemoryAdvisor.CHAT_MEMORY_CONVERSATION_ID_KEY, conversationId)).call().content();System.out.println(answer1);String answer2 = chatClient.prompt().user("我叫什么名字").advisors(a -> a.param(AbstractChatMemoryAdvisor.CHAT_MEMORY_CONVERSATION_ID_KEY, conversationId)).call().content();System.out.println(answer2);System.out.println(chatMemory.get(conversationId));return "success";}

上述代码中,必须指定:

advisors(a -> a.param(AbstractChatMemoryAdvisor.CHAT_MEMORY_CONVERSATION_ID_KEY, conversationId))

表示根据conversationId区分不同会话的上下文。

http://www.dtcms.com/wzjs/559403.html

相关文章:

  • the7做的网站网页制作是干什么的
  • 给网站做seo诊断wordpress 添加页面模板
  • 网站验收时项目建设总结报告水墨背景风格企业网站模板
  • 网站建设公司简介成都网站制作公司定制
  • 北京便宜做网站深圳网站推广
  • 企业网站方案在线图片编辑器图怪兽
  • 做网站要用什么服务器站长交易网
  • 工商联网站建设作用软件外包公司怎么找业务
  • 微信手机网站案例wordpress付费文章插件
  • 企业网站的建设的目标人物是永州企业网站建设
  • 在网站中设置网站地图蛋糕烘焙wordpress主题
  • 网站关键词优化怎么做零代码网站开发工具
  • 网站建设用什么软件好wordpress怎么选择中文版
  • 流量网站建设教程wordpress调取循环文章的图片
  • 泉州彩票网站建设搜索引擎大全
  • 可以下载的网站模板吗自己做网站广告法
  • 衡阳县专业做淘宝网站那个网站可以做视频app制作
  • 呼市网站开发网站建设方案 安全
  • 南通做百度网站的公司挣钱最快的小游戏
  • 网站怎么加入百度网盟高中文凭能学做网站吗
  • 四核网站建设石家庄网站建设吧
  • 网站 文章 keywords 和主页keywordswordpress jetpack插件
  • 要网站开发费用短信wordpress 归档函数
  • 深圳网站建设clh关键词营销优化
  • 竞猜网站模板wordpress更改上传的大小
  • iis网站建设注册新公司流程
  • 北京建设工程信息网查询衡水做网站优化
  • 临沂网站建设培训学校一般公司常用的邮箱
  • 个人网站建设方案做网站推广 需要ftp
  • 网站建设的主题什么比较好北邻京网站茵建设