【极速版 -- 大模型入门到进阶】大模型如何学会使用对应的工具 (第二弹)

文章目录
- 🌊 Toolformer 要达到的效果是什么
- 🌊 【搜索操作和搜索结果】怎么结合到大模型的生成过程和结果中去的呢
- 🌊 Toolformer 怎么学会使用外部工具:自监督学习使用工具
以 Toolformer 为例,讲解大模型如何学会使用外部工具 API 来增强表现
🌊 Toolformer 要达到的效果是什么
- 如下示例,对于用户的问题,使用工具 API 并结合 API 返回的结果进行回答
🌊 【搜索操作和搜索结果】怎么结合到大模型的生成过程和结果中去的呢
-
不熟悉大模型如何生成输出的宝,可以先 👉 快速了解大型语言模型
-
对于这个问题,我们还是以文字接龙的思路来理解,具体而言分为两步
-
第一步:【搜索、点进、收藏 …】作为一些特殊的文字符号参与接龙
-
第二步: 没有被【收藏】的条目忽略,根据剩余内容生成【回答】
-
🌊 Toolformer 怎么学会使用外部工具:自监督学习使用工具
-
第一步:自动产生 “怎么塞 API” 的学习资料。这个资料是很粗糙的,直接由另一个语言模型根据 prompt 生成(in-context learning);可能是乱塞一气,并没有产生有益作用的调用
-
第二步:评估训练资料的可用性,删选有用的 “API 塞入”
-
第三步:根据可用的资料,训练调整大模型
参考资料:面向每个人的生成式AI, 【李宏毅 LLM 大模型】