李宏毅-Generative AI-第一课
Generative AI:让机器学会产生复杂而有结构的物件
复杂:无穷可能
有结构:由有限的基本单位所构成,基本单位就是 token
在hugging-face上有开源模型。可以使用hugging-face的transformers库进行训练这些开源模型
以上属于llm内部的工作流程:把刚刚猜出来的token作为新的输入贴在老的输入后面,再交给LLM重复循环这个操作,当然不是死循环操作,可以指定循环次数
下面是使用model.genretate()的简化写法
但是现在都是文字接龙,并没有达到你问我答的效果,所以要加prompt_template
有三种角色:1.system:开发者放的prompt;2.user:用户说的话3.assistant:LLM说的话
最后是提供了一种对上述工作流程的简化使用方式: