了解 Generative AI 在解决业务问题中的能力和局限性
抱歉，我需要您提供要翻译的具体文本内容（除了已经给出的 Source 链接之外）。请粘贴或上传您希望翻译成简体中文的文章正文，我会在保持原有 Markdown 格式和技术术语的前提下为您完成翻译。
域 2 – 生成式 AI 基础
📘 任务说明 2.2
🎯 目标
此任务旨在使用生成式 AI 做出良好的商业决策：了解它擅长的领域、它的局限、如何为任务挑选合适的模型，以及如何衡量成功，而不仅仅是“演示看起来不错”。
1️⃣ Advantages of GenAI
1.1 适应性
一个模型可以通过最小的改动（通常只需更改提示词）完成多种任务。
示例： 同一个 LLM 可以
- 摘要
- 分类
- 提取字段
- 起草邮件
- 回答问题
1.2 响应性
快速生成输出并实现交互式体验（助理、协作伙伴），支持实时使用。
- 支持迭代细化： 用户可以纠正，模型能够立即响应。
1.3 简单性
通常可以在不构建自定义机器学习流水线的情况下交付有用功能。
Prompting + retrieval can replace complex rules‑based systems or multiple specialized NLP models.
1.4 对非结构化数据的良好适配
在文本密集型工作流中尤为强大：
- 工单
- 文档
- 聊天记录
- 知识库
1.5 跨领域泛化能力
基础模型能够在不同领域（法律、人力资源、IT、营销）之间处理任务，优于窄域模型，且无需从头开始。
2️⃣ 生成式 AI 的缺点与局限
2.1 幻觉
模型可能生成自信但不正确的信息。
当提示模糊、缺少上下文，或问题需要精确的事实依据时，风险会增加。
2.2 可解释性
难以解释模型为何产生特定输出。
这在受监管或高风险决策中尤为重要。
2.3 不准确性
即使没有*“幻觉”，*输出仍可能部分错误、不完整，或与业务规则不匹配。
大型语言模型并不保证事实正确或保持最新。
2.4 非确定性
即使使用相同提示，输出也可能在不同运行之间有所差异（取决于采样/温度和系统行为）。
这使得严格的可复现性和测试断言比传统软件更困难。
2.5 其他实际约束
- 数据隐私 / 安全： 提示可能包含敏感数据；需要相应控制。
- 延迟和成本： 更大的模型在大规模使用时可能慢且昂贵。
- 上下文窗口限制： 不能“一次读取所有”，需要分块或检索策略。
- 政策与安全问题： 存在产生有害输出、泄露敏感信息或违反政策的风险。
3️⃣ 选择合适 GenAI 模型的因素
在选择 GenAI 方法或模型时，请考虑：
3.1 模型类型 / 模态
仅文本 LLM 与多模态模型（文本 + 图像）与图像生成（扩散）等。
根据所需的输入/输出（文本、图像、音频、视频）进行选择。
3.2 性能要求
- **延迟目标：**交互式聊天 vs. 离线处理
- **吞吐量 / 并发度：**多少请求
- 每次请求成本及预算限制
3.3 能力匹配
模型在你的任务上表现如何？
- 摘要质量
- 指令遵循能力
- 工具 / 函数调用（如果构建代理）
- 特定领域语言
3.4 限制
- **上下文长度需求：**长文档可能需要检索
- **输出格式需求：**JSON、严格模板
- **可靠性要求：**需要引用/依据吗？
3.5 合规性与治理
- 数据驻留要求
- 个人身份信息（PII）处理与保留政策
- 审计 / 日志需求
- 模型/供应商限制：可接受使用、训练数据政策
3.6 定制化需求
- 提示 / RAG 能否满足需求？
- 是否需要 微调 以实现语调、风格或领域模式？
- 是否需要 安全护栏 与验证层？
4️⃣ 确定生成式 AI 应用的业务价值和指标
GenAI 的成功应同时以 模型质量 和 业务成果 来衡量。
4.1 业务价值示例
- 缩短客服代理处理时间（AHT）
- 通过更好的产品发现提升转化率
- 加快营销内容创作周期
- 通过自动化降低运营成本
- 通过更佳的自助服务提升客户满意度
4.2 示例指标
4.2.1 跨领域性能
解决方案在不同部门/主题之间的通用程度，无需重新开发。
指标示例： 跨多个知识领域的任务成功率。
4.2.2 效率
节省时间、减少手动步骤、降低升级次数。
指标示例：
- AHT（平均处理时间）
- 每小时解决的工单数
- 每单成本
4.2.3 转化率
由于更好的引导或推荐，提升购买或注册完成率。
指标示例： 助理上线后结账转化率提升。
4.2.4 每用户平均收入 (ARPU)
变现影响。
指标示例： 接触助理/推荐的用户的 ARPU 增长。
4.2.5 准确率
需针对具体任务定义（例如，正确提取字段、正确分类）。
指标示例：
- 人工评估的正确性
- 提取字段的完全匹配率
- 有依据的答案率
4.2.6 客户生命周期价值 (CLV)
长期留存或忠诚度的影响。
指标示例： 使用 GenAI 支持的用户群体的流失率下降。
选择与业务目标一致的指标。模型即使“表现惊人”，若未提升效率、收入或客户结果，或风险/成本过高，仍会失败。
💡 快速提问
- 列举生成式 AI 在业务工作流中的两个优势。
- 什么是幻觉（hallucination），它在面向客户的应用中为何具有风险？
- 说明非确定性在生产环境中可能导致问题的一个原因。
- 列出两个 fac (the prompt ends here; keep as‑is)
快速提问
1. 使用单一 GenAI 模型处理多任务的两个优势是什么？
2. 在生成式 AI 的语境中，定义 幻觉 并解释其为何构成风险。
3. 为什么非确定性是 GenAI 在生产环境中的问题？
4. 在为受监管行业选择 GenAI 模型时，你会考虑的两个因素是什么？
5. 对于 GenAI 购物助理，请列出一个与业务价值相关的指标。
附加资源
生成式 AI 模型是什么？
✅ Quick Questions的答案
1. Adaptability – 一个模型可以通过提示处理许多任务。
Responsiveness – 交互式、实时输出。
（简洁性 / 价值实现时间 也是有效的优势。）
2. 当模型生成听起来很自信但不正确或捏造的信息时，就会出现hallucination。
这很危险，因为它可能误导用户，导致合规/法律问题，并损害信任（尤其是当其被当作事实呈现时）。
3. Nondeterminism 是生产中的问题，因为相同的提示在不同运行时可能产生不同的输出，使得结果更难测试、复现，并在质量或政策合规性上保持一致。
4. Compliance / governance requirements – 如个人身份信息（PII）处理、审计/日志、数据驻留。
Interpretability / reliability needs – 如有依据的答案、更严格的控制与护栏、降低 hallucination 风险。
（延迟、成本和供应商政策 也是有效因素。）
5. Conversion rate（例如提升结账完成率）或 ARPU（每用户平均收入）。