人工智能一些基础概念与应用场景学习笔记

1. AI发展：基于规则，统计学习，大模型，类人学习
2. 核心三要素：数据、算法、算力
3. 2017年开始的transformer--gpt
4. ai大模型定义：使用transformer架构，参数量较大，与训练、微调机制；涌现效应，参数达到一定规模后，模型准确率大幅度提升；参数量起步在6B以上
5. 典型类型：
   1. 自然语言处理，nlp大模型
   2. 计算机视觉，cv大模型，如工业质检
   3. 多模态，看图说话
   4. 科学计算，AI4S大模型，如气象预测、基因分析
   5. 预测大模型，回归预测、异常检测，如制造业的工艺预测等
6. 以算法为中心到以数据为中心，是AI大模型带来的重大范式转移。模型训练关键因素：数据规模+质量
7. 算法理论基础：业务抽象成数据模型的表达式
8. 建模（建立关系表达--算法），训练（参数），微调，推理
9. 算法模型理论体系：白盒设计+黑盒设计
   1. 白盒：要求更加深入了解业务逻辑，直接设计算法模型
   2. 黑盒：大量训练数据和标签，训练黑盒模型
   3. 选择原则：“能说清楚的”用白盒，“说不清楚”需要从数据中学习的，用黑盒
10. 神经网络
11. 范畴：人工智能>机器学习〉深度学习
    1. 人工智能：专家系统、复杂系统、定理证明、事实与规则
    2. 机器学习：人工设计、可解释，数据规模较小；随机森林、决策树、贝叶斯学习、SVN向量机
    3. 深度学习：数据中学习，黑盒，数据规模较大；NN 、CNN、 RNN
12. 三大学习范式：自监督学习、监督学习、强化学习。可分别形容为：自习课、常规授课（人类标注数据）、习题课（用环境活模型作为监督信号）
13. 训练和推理：
    1. 开发态：AI训练，不断数据、学习，形成模型/算法
    2. 部署态：AI推理，利用已训练好的规则，完成具体任务
14. AI计算用NPU（神经网络处理单元）/GPU（图像处理器）而不是CPU（中央处理器）？能够处理计算密集型、高并发任务。
15. 通用人工智能三大里程碑：
    1. 超级应用
    2. 科学人工智能（AI4S）
    3. 机器人工智能：ai+机器人