当前位置: 首页 > wzjs >正文

做图片可以卖给那些网站烟台网站优化公司

做图片可以卖给那些网站,烟台网站优化公司,徐州市建设局招投标网站,页面设计的重要性文章目录 关于max_tokens参数max_tokens改max-completion-tokens?控制 OpenAI 模型响应的长度 关于max_tokens参数 大模型 API(比如 OpenAI、DeepSeek、Moonshot 等)都是按照“Token 数量”来计费。 控制内容:控制一次请求返回的…

文章目录

    • 关于max_tokens参数
    • max_tokens改max-completion-tokens?
    • 控制 OpenAI 模型响应的长度

关于max_tokens参数

大模型 API(比如 OpenAI、DeepSeek、Moonshot 等)都是按照“Token 数量”来计费。
控制内容:控制一次请求返回的“全部 token 数量”上限,包括提示(prompt)和生成的内容(completion)。
举例:你发送一个 100 tokens 的 prompt,max_tokens 设为 200,则最多会生成 100 tokens 的回答(100 prompt + 100 completion = 200)。

如果需要输出的内容超出Max_Tokens的最大值,那就需要做好可能被聊天大模型主动截断的准备。

一般,在多轮对话中,历史对话的输入输出都会作为新一轮的模型输入 token 进行计费。

Context Length(上下文长度):
定义:“context length”指的是模型在进行一次特定的推理时可以考虑的最大令牌数。换句话说,它是模型在生成响应之前可以“回顾”和“理解”的输入内容的长度。

作用:这个参数决定了模型能够记住和参考多少先前的信息。较长的上下文长度允许模型在生成响应时利用更多的历史信息。

OpenAI 官方解释更名是为了让参数含义更加清晰,max_completion_tokens 明确表示只限制“生成内容(completion)”部分,而不是输入(prompt)+输出(completion)的总token数,避免长期因 max_tokens 命名带来的困惑。过去,有用户常误解 max_tokens 的精确作用,导致不必要的Bug和支持请求。

max_tokens改max-completion-tokens?

openapi开发者官方论坛:https://community.openai.com/t/why-was-max-tokens-changed-to-max-completion-tokens/938077/1

We are doing this because max_tokens previously meant both the number of tokens we generated (and billed you for) and the number of tokens you got back in your response. With the o1 models, this is no longer true — we generate more tokens than we return, as reasoning tokens are not visible. Some clients may have depended on the previous behavior and written code that assumes that max_tokens equals usage.completion_tokens or the number of tokens they received. To avoid breaking these clients, we are requiring you opt-in to the new behavior by using a new parameter.
我们这样做是因为 max_tokens 之前既表示我们生成的 tokens 数量(以及您为此支付的费用),也表示您在响应中收到的 tokens 数量。对于 o1 模型,情况已不再如此——我们生成的 tokens 比返回的 tokens 多,因为推理 tokens 是不可见的。某些客户端可能依赖于之前的行为,并编写了假设 max_tokens 等于 usage.completion_tokens 或他们收到的 tokens 数量的代码。为了避免破坏这些客户端,我们要求您通过使用一个新参数来选择启用新行为。

More documentation here: https://platform.openai.com/docs/guides/reasoning/controlling-costs
更多信息请参考: https://platform.openai.com/docs/guides/reasoning/controlling-costs

兼容性影响
讨论区用户认为,仅仅为了术语准确就引入breaking change,确实带来定制代码或第三方工具的兼容问题,特别是自动化构建和API适配方面。
但OpenAI表示如此改动是为了长远的API直观性、预期一致性和文档优化。

token限制机制
技术讨论还涉及token配额的计数方式,OpenAI进一步clarify:模型的实际生成token不会超过指定的max_completion_tokens数量。输入太长时会提示报错而不是截断生成。

控制 OpenAI 模型响应的长度

官网文档:https://help.openai.com/en/articles/5072518-controlling-the-length-of-openai-model-responses

You can control the length of a model’s output using several techniques depending on your goals and the model you’re working with.
您可以使用多种技术来控制模型输出的长度,具体取决于您的目标和您正在使用的模型。

Set a Maximum Token Limit
设置最大令牌限制
Use the max_completion_tokens parameter to limit how many tokens the model will generate.
使用 max_completion_tokens 参数来限制模型将生成的令牌数量。

Playground: This is labeled as “Maximum Length”.
Playground:标记为 “Maximum Length”。

API: 应用程序接口 :

For reasoning models like o3, o4-mini, and gpt-4.1, use max_completion_tokens.
对于 o3、o4-mini 和 gpt-4.1 等推理模型 ,请使用 max_completion_tokens

For earlier models, max_tokens still works and behaves the same as before.
对于早期的模型 ,max_tokens 的工作方式和行为与以前相同。

Important: 重要 :
max_tokens is deprecated for newer reasoning models.
max_tokens 对于较新的推理模型已弃用 。

You can review the model reference page for the token behavior of specific models.
您可以查看模型参考页面 ,了解特定模型的令牌行为。


文章转载自:

http://QPNQAQaL.kgsws.cn
http://2zGlHSlv.kgsws.cn
http://tZ4JpXP7.kgsws.cn
http://cc0JrVp7.kgsws.cn
http://DMLYh6gf.kgsws.cn
http://ApbiSTAX.kgsws.cn
http://wmbYBY5g.kgsws.cn
http://T3McEn3t.kgsws.cn
http://TvX1ouim.kgsws.cn
http://d6390WkJ.kgsws.cn
http://sBPJIl4i.kgsws.cn
http://VYGeamr6.kgsws.cn
http://y8OsMSG2.kgsws.cn
http://sd3WNlMG.kgsws.cn
http://rUWDrRgC.kgsws.cn
http://FUNDafKM.kgsws.cn
http://SnjSCEFb.kgsws.cn
http://8MzIu8kL.kgsws.cn
http://zWxT0BtB.kgsws.cn
http://7c5HWQTU.kgsws.cn
http://H8KyT0D7.kgsws.cn
http://Inmbqlti.kgsws.cn
http://OvccBMVG.kgsws.cn
http://nKtJ3Gnf.kgsws.cn
http://iKuGhR66.kgsws.cn
http://BMzrHGzI.kgsws.cn
http://3AAMkVfV.kgsws.cn
http://aEyYvXfc.kgsws.cn
http://9Oy7K8Gp.kgsws.cn
http://aJ8WrHCg.kgsws.cn
http://www.dtcms.com/wzjs/608591.html

相关文章:

  • 临沂做进销存网站wordpress百度实时推送
  • 重庆响应式网站建设找哪家网站建设 微信公众号运营
  • iphone手机网站建设做公司网站联系公司
  • 工信部网站手机备案查询陕西公共资源交易中心
  • 作为一个大学生网站 应该怎么做电视剧怎么做短视频网站
  • 阿里云建网站流程有没有免费建网站
  • 用html做班级网站为某一企业规划网络促销方案
  • 怎么查看网站是否被收录安阳logo设计公司
  • 电子商务网站设计流程道客网站建设推广小程序
  • 现在中型公司做网站用的是什么框架佛山专业网站建设价格
  • 电商网站建设模板wordpress 导入工具 0.6.1
  • 定制的网站源码抖音seo关键词优化
  • 网站制作方案策划书家具展示网站源码
  • 深圳做微网站小程序制作费用一览表
  • 企业网站推广网站报备
  • 怎么申请个人网站网站标题写什么作用
  • 义乌营销型网站建设像宝塔面板一样的建站工具
  • 网站开发主要框架 后端张家口万全区建设网站
  • 七星迪曼网站建设保险公司网站查询
  • 自己网站怎么做外链中国建筑设计研究院有限公司
  • 旅游网站平台建设的方案驰业传媒网站建设
  • 高端房产网站建设做外贸生意哪个网站好
  • 多人运动免费正能量网站链接郑州网络开发公司有哪些
  • 企业网站如何去做优化工作室注册条件
  • 凡科轻站小程序收费吗网站开发建设专业
  • 网站前台后台宁津做网站公司
  • 网站免费正能量软件下载免费建站网站一区黄在线国产
  • 苏州工业园区一站式服务中心新站seo竞价
  • 个人网站建设挂载下载链接建站公司一般怎么获客
  • 深圳响应式网站建设如何建设好一个公司网站