当前位置: 首页 > wzjs >正文

南阳 网站建设seo入口

南阳 网站建设,seo入口,襄阳门做网站,品牌网站设计方案最近开发智能客服,需要用php调用已有的大模型应用接口流式输出vue前端调用打字机效果展示。这里整理了php调用大模型流式输出业务过滤等的核心实现部分,分享给大家。 前置条件:大模型应用接口已经打通(最好是通过postman或者apip…

最近开发智能客服,需要用php调用已有的大模型应用接口流式输出+vue前端调用打字机效果展示。这里整理了php调用大模型流式输出+业务过滤等的核心实现部分,分享给大家。

前置条件:大模型应用接口已经打通(最好是通过postman或者apipost调用成功,如下图,消息返回的内容可能根据自己的大模型应用api有差异,但是一定要看到每行有一个json数据返回)

php7.0 以上的版本,调用方式如下:

public function sendRequestStreaming($messages) {set_time_limit(0);header('Content-Type: text/plain; charset=utf-8');header('X-Accel-Buffering: no');ob_implicit_flush(true);ob_start();$data = [// 此处的参数和你的大模型api对应'inputs' => [],'query' => $messages,'response_mode' => 'streaming'];$curl = curl_init($this->baseUrl . 'chat-messages'); // 注意地址改成你自己的大模型api地址curl_setopt($curl, CURLOPT_POST, true);curl_setopt($curl, CURLOPT_POSTFIELDS, json_encode($data));$header = ['Content-Type: application/json','Authorization: Bearer ' . $this->apiKey, // 注意改成你的大模型的apiKey'Accept: text/event-stream'];curl_setopt($curl, CURLOPT_HTTPHEADER, $header);curl_setopt($curl, CURLOPT_TIMEOUT, 0); // 永不超时curl_setopt($curl, CURLOPT_RETURNTRANSFER, false); // 禁止直接输出到变量// 全局变量用于跨回调保留状态(如未处理完的缓冲)$buffer = '';curl_setopt($curl, CURLOPT_WRITEFUNCTION, function ($curl, $data) {global $buffer;// 合并缓冲(处理跨块数据)$buffer .= $data;// 过滤数据$filtered = $this->filterData($buffer);// 假设数据按换行分割,处理完整行(根据API实际格式调整)$lines = explode("\n", $filtered);// 最后一行可能不完整,保留到下次处理$buffer = array_pop($lines);// 逐行实时输出foreach ($lines as $line) {echo $line . "\n";ob_flush(); // 刷新输出缓冲flush();}// 返回已处理的数据长度(一定要注意,是返回原数据长度)return strlen($data);});curl_exec($curl);// $error = curl_error($curl); 如果需要捕获错误,记录错误日志等curl_close($curl);// 处理剩余缓冲if (!empty($buffer)) {echo $this->filterData($buffer);;ob_flush();flush();}}// 过滤流式json数据protected function filterData($str) {return $str;// 根据需要过滤数据,如某些json数据不想返回给前端// if (strpos($str, 'data: {"event": "message') === 0) {//     return $str;// } else {//    return "";// }}

以上的方法实现了php调用大模型流式输出,可根据自己的需求修改。

注意:CURLOPT_WRITEFUNCTION内部末尾的return是源数据长度,不要自作聪明改成处理后的新数据长度。

http://www.dtcms.com/wzjs/504700.html

相关文章:

  • 深圳 网站建设电商运营入门基础知识
  • 网站主机有什么用2024小学生时事新闻十条
  • b2c网站策划培训机构招生方案范文
  • 创新的营销型网站零基础学seo要多久
  • 医院网站站群建设十大软件培训机构
  • 网站维护做啥的怎么用手机创建网站
  • 济南网站建站搜索引擎查询
  • 杭州品牌网站建设公司百度seo和谷歌seo有什么区别
  • 网站建设 b2b济南网站seo公司
  • 日本做爰漫画网站北京seo网络优化师
  • 电子商务网站建设作业总结搜一搜排名点击软件
  • 怎样建设卡盟网站百度官网
  • 没有网站可以备案吗百度建站平台官网
  • 濮阳门户网站开发合肥百度搜索优化
  • 零基础做网站西安市网站
  • 国内优秀网站欣赏搜索引擎的两个基本方法
  • 金坛网站优化什么是seo搜索
  • 商业中心 网站建设seo运营做什么
  • 做网站友情链接都写什么seo排名点击器原理
  • 淘宝客怎么建设网站网络营销发展方案策划书
  • 深圳网站建设相关推荐公司网站设计定制
  • 汕头市政府门户网站信息公开市场营销最有效的手段
  • 南海网站建设公司科学新概念seo外链平台
  • 免费微网站建设网页推广怎么收取费用
  • 肇庆关键词网站排名近两年成功的网络营销案例及分析
  • pexels免费素材网站百度seo收费
  • 南京鼓楼做网站的公司合肥百度快速排名优化
  • 专业制作小程序的公司佛山优化推广
  • 全总基层组织建设网站凡科网微信小程序
  • 成都房产网官方网站免费网站制作app