当前位置: 首页 > wzjs >正文

一个网站一个月发多少外链比较合适厦门关键词排名推广

一个网站一个月发多少外链比较合适,厦门关键词排名推广,南川集团网站建设,国外WordPress主题速度慢1、引言随着AI技术的崛起,我们也开始接触开发AI项目了。比如我使用的是springAI来调用大模型,通过一些定制化内容,得到比较有个性化的智能体。而调用大模型是我们后端的工作,那么如何将AI响应的内容返回给前端呢?我们当…

1、引言

        随着AI技术的崛起,我们也开始接触开发AI项目了。比如我使用的是springAI来调用大模型,通过一些定制化内容,得到比较有个性化的智能体。

        而调用大模型是我们后端的工作,那么如何将AI响应的内容返回给前端呢?我们当然可以直接调用完大模型后,等大模型响应完内容给我们的后端,然后后端再统一把消息返回给前端。这种方法虽然可行,但是在用户体验上就差很多了,如果后端要等大模型完整地返回内容的话,就要阻塞很久,那么用户端是无感知的,反而会觉得这个系统很差,要等这么久才能响应。

        所以我们就要达到现有较流行的打字机效果,就是AI响应一点内容,就给用户返回一些内容,要达到这种效果,就要用到SSE流式输出了。


2、包装AI响应的内容

本章节不对如何调用大模型重点讲解,后续会考虑发布相关博客,本章节之针对流式输出做讲解。所以对调用AI大模型的代码如果看不懂不需要太在意,只要知道AI输出的内容也是可以通过stream方法流式输出的即可。

    public Flux<String> doChatByStream(String message,String charId) {Flux<String> content = chatClient.prompt().user(message)//这里的advisors是单词发送执行的拦截器,指定了.advisors(advisor -> advisor.param(CHAT_MEMORY_CONVERSATION_ID_KEY, charId)//指定会话房间.param(CHAT_MEMORY_RETRIEVE_SIZE_KEY, 20))//指定记忆多少轮对话.stream()//使用流式输出.content();return content;}

代码解释:AI响应的内容是String类型的,通过调用一些函数,让Flux包装,这种其实就是响应式编程。


3、控制内容流式响应

在controller层执行,有三种方式:

@RestController
@RequestMapping("/ai/love_app")
@Slf4j
public class AiController {@Resourceprivate LoveApp loveApp;@GetMapping(value = "/doChat/sse", produces = MediaType.TEXT_EVENT_STREAM_VALUE)public Flux<String> chat(String message, String charId) {Flux<String> stringFlux = loveApp.doChatByStream(message, charId);// 返回响应return stringFlux;}@GetMapping("/doChat/sse2")public Flux<ServerSentEvent<String>> chatBySse2(String message, String charId) {Flux<ServerSentEvent<String>> serverSentEventFlux =loveApp.doChatByStream(message, charId).map(chunk -> {ServerSentEvent<String> result = ServerSentEvent.<String>builder().data(chunk).build();return result;});return serverSentEventFlux;}@GetMapping("/doChat/sse3")public SseEmitter chatBySseEmitter(String message, String charId) {SseEmitter sseEmitter = new SseEmitter(180000L);//超时时间loveApp.doChatByStream(message, charId).subscribe(chunk -> {   // 订阅数据流try {sseEmitter.send(chunk);// 发送数据到客户端} catch (Exception e) {sseEmitter.completeWithError(e);// 发送异常时,执行异常完成函数(手动关闭)log.error("发送异常:{}",e);}}, sseEmitter::completeWithError,sseEmitter::complete);return sseEmitter;}}

 (1)直接返回Flux对象,并添加请求头

(2)在Flux对象里面的具体响应数据再用一层ServerSentEvent包裹,不需要再加请求头


(3)专门用于SSE推流的类:SseEmitter(推荐,简单更灵活)

调用它的send函数主动向前端推送数据

 

http://www.dtcms.com/wzjs/353623.html

相关文章:

  • 做外贸在那些网站找业务史上最强大的搜索神器
  • 房产网签合同嘉峪关seo
  • app手机端电子商务网站功能关键词排名网络推广
  • 做网站猫要做端口映射吗真正免费建站
  • 自己做游戏资讯网站如何快速推广一个app
  • 专注宜昌网站建设建站工具
  • 大连网站建设多少钱html网页设计模板
  • wordpress自动插件下载百度关键词在线优化
  • 成都科技网站建设找哪家网站关键词优化外包
  • 北京上海网站建设公司火爆产品的推广文案
  • 手机网站模板软文营销广告案例
  • 做网站的顶部图片百度快照是干嘛的
  • 淘客做网站怎么备案广东seo推广公司
  • 延吉市建设局网站搜索引擎营销的手段包括
  • 网站建设工作都干啥郑州做网站公司排名
  • 如何创建属于自己的网页福州百度快照优化
  • 网站推广排名报价打开网站搜索
  • wordpress企业建站教程石家庄整站优化技术
  • 太阳代理ip官网免费seo软件
  • 网站建设经费预算鹤壁搜索引擎优化
  • 建设类招标代理公司网站人工在线客服
  • 购买网站空间送域名广州企业网站建设
  • 特色专业建设展示网站 湖北网站出售
  • 建立购物网站seo推广教程视频
  • 网站建设正版软件查询网站流量
  • 南阳市建网站公河南seo
  • 播州区住房和城乡建设局网站新闻头条今日新闻下载
  • 做网站的总要求上门免费网络推广软件有哪些
  • 新疆建设兵团国资委网站百度广告联盟点击一次多少钱
  • 连云港建设部网站网站更新seo