当前位置: 首页 > news >正文

delta 流响应

文章目录

  • 前言
    • ✅ 1. 什么是 delta 流响应?
    • ✅ 2. 用于流式对话的好处
    • ✅ 3. 和 SSE(Server-Sent Events)的关系
    • ✅ 4. 总结


前言

在调用类 ChatGPT 或 OpenRouter 这类大模型 API 时,**“delta 流响应”**是一种 逐步返回内容的方式,用于实现 实时输出流式生成文字效果


✅ 1. 什么是 delta 流响应?

“delta” 指的是 “差值” 或 “增量”,代表本次响应新增的 token 内容

例如,模型输出一句话 你好,世界!,它不会一次返回全部,而是返回一个个 delta

{ "choices": [ { "delta": { "content": "你" } } ] }
{ "choices": [ { "delta": { "content": "好" } } ] }
{ "choices": [ { "delta": { "content": "," } } ] }
{ "choices": [ { "delta": { "content": "世" } } ] }
{ "choices": [ { "delta": { "content": "界" } } ] }
{ "choices": [ { "delta": { "content": "!" } } ] }
{ "choices": [ { "delta": {} } ], "finish_reason": "stop" }

你需要前端代码把这些增量的内容拼接成完整文本。


✅ 2. 用于流式对话的好处

  • 流畅:用户能边看边读,体验和人类打字一样
  • 响应快:不需要等模型生成完全部内容再返回

✅ 3. 和 SSE(Server-Sent Events)的关系

这种 delta 增量内容,通常是通过 SSE 协议流式发送的,也就是你前面实现的这个:

if (jsonData.choices?.[0]?.delta?.content) {assistantMessage.content += jsonData.choices[0].delta.content;
}

你正在处理的就是 delta 流响应!


✅ 4. 总结

项目内容
delta 响应一种模型增量返回内容的格式
content 字段本次新增的文本 token
SSE一种用于推送 delta 的传输方式
作用实现流式输出(比如 ChatGPT 打字效果)

相关文章:

  • 【C/C++】delete nullptr;
  • Nginx的反向代理
  • 传输线的特性阻抗和传播延迟
  • 15.为什么HashMap的容量是2的幂次方
  • 代码随想录算法训练营第五十二天
  • 无法删除/重装VirtualBox,提示缺少msi安装包
  • 【系统架构设计师】2025年上半年真题论文回忆版: 论事件驱动架构及应用(包括解题思路和参考素材)
  • 中望CAD与AutoCAD的SWOT对比分析(基于2025线上发布会观察与行业数据)
  • 最终章:终焉之塔 · 前端之道
  • Telnet 命令详解
  • 传感器技术的演进与测试方法探究
  • 【设计模式】责任链
  • Ubuntu 系统grub日志级别设置
  • 专业课复习笔记 10
  • Rust 学习笔记:循环和迭代器的性能比较
  • MySQL 表内容的增删查改 -- CRUD操作,聚合函数,group by 子句
  • 期货反向跟单—交易规则设计(四)品种选择
  • 火热邀测!DataWorks数据集成支持大模型AI处理
  • vue3+element plus 自定义组件,单列的方块 图形加文字列表
  • Cursor:开启智能编程新视界
  • 网站优化公司方案/免费发帖论坛大全
  • 微型购物网站建设模板/网络营销公司做什么
  • 成都门户网站建设多少钱/电影站的seo
  • 软件工程师怎么学/济南seo网站排名关键词优化
  • 网站域名怎么修改/啥都能看的浏览器
  • 网站官方认证怎么做/网站推广的方式有哪些?