Gartner《如何将生成式人工智能（GenAI）集成到应用架构》学习心得

针对软件架构师、技术专业人士如何更好的把 GenAI 如何融入解决方案，提升用户体验、生产力并带来差异化成果的趋势，Gartner发布了《Integrating GenAI Into Your Application
Architecture》研究报告。

报告首先介绍了 GenAI 的发展背景，指出其已成为主流趋势，大型语言模型（LLMs）成为通用计算模型，引发各界对 GenAI 模型及相关技术的应用探索。接着阐述了 GenAI 应用设计的关键在于如何利用不可预测的 AI 组件构建足够可靠的系统，并提出了集成 GenAI 能力的详细步骤，包括定义目标与约束、选择 GenAI 模型、定义运营流程、准备与测试模型、集成模型交互等。

此外，报告还分析了 GenAI 的常见用例，如文本生成、图像生成、生成式设计、音频生成、结构化数据生成等，并探讨了 GenAI 解决方案的层次结构，包括基础模型、微调、模型编排、系统提示和应用提示等。同时，指出了 GenAI 面临的诸多挑战，如数据偏差、模型生命周期管理、模型漂移、成本问题、设计与开发过程中的试错、测试难题以及安全风险等。

文章主要观点

第二步：选择 GenAI 模型

第三步：定义运营流程

第四步：准备和测试选择的模型

第五步：集成模型交互

• GenAI 应用广泛但需合理选择 ：LLMs 等 GenAI 模型具有通用性，能适用于多种任务，但 GenAI 并非万能钥匙，有时判别式 AI 模型、业务规则引擎或代码可能是特定决策或预测的更佳选择。

• GenAI 集成需考虑多方面因素 ：包括目标与约束的明确、模型的选择与评估、运营流程的定义、模型的准备与测试以及与应用的集成等，且每一步都有其关键要点和注意事项。

• GenAI 带来新挑战 ：如模型输出的偏差、模型行为随时间的变化（模型漂移）、高昂的训练和推理成本、设计开发过程中的不确定性、测试难度增加以及安全风险等，这些都需要软件架构师在集成 GenAI 时予以充分考虑。

• 解决方案建议

• 第一步：定义目标和约束

• 明确问题与价值 ：需确定试图解决的问题是什么，是移除价值交付的障碍还是解锁新的价值，避免陷入为技术而技术的误区，确保聚焦于实现业务成果。

• 了解受影响者 &#x