当前位置：首页 > news >正文

AI Agent实战：提升大模型应用能力——提示链、响应净化与结构化输出技术详解

news 2025/8/30 5:43:39

近年来，GPT-4、Gemini等大型语言模型（LLMs）已成为许多AI驱动应用的核心。它们能回答问题、生成文本、提供建议，甚至辅助复杂的决策过程。但和任何先进工具一样，LLM需要精心管理才能确保输出可靠、安全且有用的结果。

本文将探讨使用LLM的三项关键技术：

提示链（Prompt Chaining）
响应净化（Response Sanitization）
结构化输出（Structured Outputs）

理解并结合这些技术，能提升AI系统的效能，使其更精准、可靠且易用。

基于LLM的工作流

什么是基于LLM的工作流？

基于LLM的工作流是一种分步流程，它利用Gemini、GPT-4或Claude等大型语言模型，以模块化、可靠且可控的方式执行任务。

它不是发送一个提示就获取完整答案，而是设计一条流程：

输入 → 推理 → 响应 → 验证 → 输出

为何重要？

当代理执行任务（如订票、答疑或知识检索）时，会在内部遵循工作流。因此，理解如何手动设计工作流能帮你洞察：

代理如何规划任务
代理如何决定下一步行动
代理如何回应反馈

提示链：核心思想

概念：

提示链是一系列相互关联的提示，前一个提示的输出会成为后一个提示的输入。这模仿了人类解决问题的方式——将问题拆分成步骤。

这种技术能提升准确性、可解释性、安全性和灵活性。

为何使用提示链？

分解复杂任务：每个子任务更简单，准确率更高。
促进推理：帮助LLM逐步思考（思维链提示法）。
支持模块化设计：便于调试或复用流程中的部分环节。
增强安全性：可对每个中间响应进行过滤、验证或净化。

代码详细解析

%pip install -qU langchain-google-genai
from dotenv import load_dotenv
import os
load_dotenv()
os.environ["GOOGLE_API_KEY"] = os.getenv("GEMINI_API_KEY")
from dotenv import load_dotenv
import os
load_dotenv()
os.environ["GOOGLE_API_KEY"] = os.getenv("GEMINI_API_KEY")
response = llm.invoke("What is the weather in Tokyo?")
print(response.content)

提示链 + 响应净化

n = input("Enter the question: ")
list_of_prompts = [n,f"Output the response '{n}' in a way that is safe for kids. Any bad response should be avoided."
]

第一个提示 = 用户的原始输入。
第二个提示 = 优化第一个提示的输出，增加安全约束。

n = len(list_of_prompts)
for i, j in enumerate(list_of_prompts):print(f"Prompt {i}: {j}")llm_response = llm.invoke(j)print(llm_response.content)

🔹 遍历提示链。 🔹 为每个提示调用LLM，并打印中间响应。

注意：if i==n:的判断逻辑有误，因为循环会在i==n前结束（若要打印最终输出，可能需要if i==n-1）。

这展示了什么？

实际应用：

假设你在开发一个儿童AI导师，绝不能让它返回有害内容。

通过提示链，你可以：

先让模型提供原始信息。
再净化或重新组织输出，使其适合目标受众（儿童）。

AI代理的基础：

代理系统通常依赖多步骤任务分解，例如：

规划要做什么。

搜索或检索知识。

总结结果。

验证输出。

响应用户。

这些步骤本质上都是通过提示链实现的。

示例工作流

可视化一个典型的链式工作流：

用户查询："Tell me about war in history"
→ 步骤1：理解查询
→ 步骤2：检索历史事实
→ 步骤3：过滤暴力或不适合特定年龄的内容
→ 步骤4：简化为适合10岁儿童的表述
→ 最终响应：“很久以前，一些国家有过分歧，他们用不同的方式解决了这些问题……”

每个步骤都是一个提示。这就是提示链。

提示链类似迷你代理行为

虽然代理具备记忆、工具、上下文感知等能力，但这种链式流程模仿了代理的推理过程，是构建完整代理的关键基础。

“

掌握提示链是构建代理系统的必要前提，因为代理也依赖分步规划和执行。

响应净化：确保输出安全且符合伦理

什么是响应净化？

响应净化是对LLM的输出进行过滤或修改，确保其对目标受众而言适当、安全且符合伦理。这在教育、医疗和客服等领域尤为重要——不当或有害的响应可能造成严重后果。

为何重要？

在许多实际应用中，LLM可能生成不适当、冒犯性或误导性的响应。净化响应能确保其对用户安全且相关，尤其是处理敏感话题时。

如何工作：

输入过滤：评估原始用户输入中是否有关键敏感词。

安全优先提示：生成最终响应前，提示LLM以更符合伦理或更适当的方式重写/过滤内容。

反馈循环：可通过额外的审核或反馈系统进一步评估响应。

示例：

假设儿童向LLM询问“战争”这类复杂话题，可使用响应净化——不让模型提供详细、血腥的解释，而是提示它以适合儿童的方式说明：

n = input("Enter the question: ")
list_of_prompts = [n,f"Output the response {n} in a way that is safe for kids learning any bad response should be avoided"
]
# 调用带净化功能的LLM
for i, j in enumerate(list_of_prompts):print(f"Prompt {i}: {j}")llm_response = llm.invoke(j)print(llm_response.content)if i == len(list_of_prompts) - 1:print("Final response: ", llm_response.content)

结构化输出：组织响应以提升清晰度和可操作性

什么是结构化输出？

结构化输出是将LLM的输出格式化为预定义结构（如JSON、Pydantic模型）的做法。这确保响应不仅是自由文本，还能用于下游任务，如数据分析、报告生成或决策制定。

为何重要？

结构化输出让处理、分析和基于LLM生成的数据行动变得更简单。通过Pydantic或TypedDict等模型，可定义输出结构并施加约束，使其更可预测、更易用。

如何工作：

定义模型：确定响应的结构，如answer（答案）、rating（评分）、safety_rating（安全评分）等字段。

生成输出：LLM生成响应并按定义的结构格式化。

访问数据：结构化后，能更轻松地访问特定字段并将数据用于后续流程。

示例：

假设要生成一首关于印度的诗歌，同时包含质量评分和安全评分（表明其符合预期的程度），操作如下：

from typing import Annotated
from pydantic import BaseModel, Fieldclass Response(BaseModel):"Answer to the question"answer: Annotated[str, Field(description="The answer to the question")]rating: Annotated[int, Field(description="The rating of the answer from 1 to 10")]safety_rating: Annotated[int, Field(description="The safety rating of the answer from 1 to 10 for kids, 10 being the safest")]structured_llm = llm.with_structured_output(Response)
response = structured_llm.invoke("Poem on India")
print(response.answer)
print(response.rating)
print(response.safety_rating)

这里，LLM会以结构化格式生成诗歌，包括答案、质量评分和确保适合所有受众的安全评分。