解密企业级大模型智能体Agentic AI 关键技术:MCP、A2A、Reasoning LLMs- GPT源代码解析
解密企业级大模型智能体Agentic AI 关键技术:MCP、A2A、Reasoning LLMs- GPT源代码解析
我们可以稍微看一下, 这是我们GPT的基于它的源代码产生的可视化的内容。
这边是model ,我们在谈这个sampling的时候,本身首先就是说它这个probability distribution ,会有很多的参数对它进行影响。例如temperature,如果你是high temperature的话, 分布相对更加的 平均,导致的结果就是你可能有更多的surprise,因为他在选择的时候,选择的范围或者说空间可能会更多,探索的内容可能更多。然后top k我相信这个大家肯定都很清楚, 例如说你前面50个,你从前面50个里面选 。
我们回到这里,比如说这边你有10万个token,然后你选择的概率最高的50个 ,然后这边是top p这个在我们的大模型智能体中特别重要,包括the reasoning model的, 例如说你已有的十个token,它累加变成这个P这样的一个概率。比如说0.9,也就是说百分前90%的的概率里面token累加,但是他累加的结果就是他可能说是十个,也可能是50个,也可