大模型应用场景 业务架构和技术架构
为什么我们要理解业务架构和技术架构
嵌入式ai embeded Ai Copliot Aiagent
ai embedded只是实际上在某个业务环节上 把ai 融入进去 例如手机拍照加美颜效果 他整体流程是不变化的
我传统模式不变 利用大模型帮我们提升效率 比如说自动化流水线 其实整体流程没有发生改变 只是在某个环节上嵌入ai,我们的效率就会大幅度提升，比如说客户服务做智能客户的时候会用到
场景 对于一些基本问题做一些自动回复， 传统的服务系统中间嵌入我们的ai的技术 这是比较简单而且比较典型的架构
Ai Copllot 我在每一个环节都嵌入ai, 人和ai能够干的事情基本是对半开的
也就是ai作为一个辅助工具 我们ai会有一些结果。ai可以提供一些建议和决策 做一些技术支持 提供一些解决方案
如果我们需要一些技术支持的领域 使用这种模式是很好的
决策权还是在人身上的 他只是可以帮助人干一些事情
第三种agent ai占比很多的 他具备一定的决策能力 人干的事情就少一些
一般客服系统的话 会很好利用agent
以上是业务架构的简单剖析，我们现在学一些大模型技术架构
只有懂业务 然后我才会选择合适的业务模型，比如说我在什么场合下选择那种业务架构 要结合自己的需求比如说企业--->短期快速提供智能化产品的话 就是Embedded模式
长期用户和ai互动 Coplit模式
业务 如果高度自动化的 时候 要减少人工的干预 采用Agent的形式我们的根据自己的应用场景来筛选合适的业务模型
{1.提示词的设计 2.微调的技巧 3. 知识库的增强}
关于大模型有哪些技术模型
大模型的技术架构 1.promt 最简单的对话方式
个人对话 应用程序给大模型一个promt 大模型回复一个response
简单的对话场景 我们可以用promt技术交互，但是如果我要做一个复杂的架构，就 比较吃力了
应用程序发一个promt给这个大模型 触发大模型的agent return Calling回调告诉应用程序 线上要调用那个函数ai要求执行那个函数
Rag微调 首先第一个Rag是什么
我把知识和答案一起给大模型
通用的大模型，他是不懂你企业数据的
我只需要吧我们的知识库进行更新就可以了
Rag 数据不太稳定 需要我们实时更新的 就要用rag
微调 如果你要专属的风格 比如说想要模型拥有特定的语言常识
微调可以把我们的角色风格 表达形式写进我们的模型底层 这个东西rag是做不到的
