黑箱 AI 仍不足：企业咨询为何转向 grounded models

Source: VentureBeat

Presented by SAP

在任何人都能快速部署大型语言模型（LLM）的时代，真正的差异化因素并非 AI 技术本身，而是它所 基于的组织知识。负责运营转型的内部和合作伙伴顾问不能冒幻觉式指导的风险，因为他们的建议会影响关键业务结果。

为什么“黑箱”AI 对企业来说不足

• 缺乏透明度： 企业需要了解 为什么 AI 模型会给出特定的建议。
• 监管压力： 金融、医疗等行业受到严格的合规规则约束，必须提供可解释性。
• 风险管理： 未经检查的幻觉可能导致代价高昂的失误，侵蚀对 AI 驱动项目的信任。

向“落地”AI 的转变

落地 AI 将大型语言模型与 领域特定的数据、流程和专长 相结合。这种混合方法确保输出具备：

1. 情境感知 – 以组织独特的运营现实为锚点。
2. 可审计 – 可追溯至源数据和业务规则。
3. 可操作 – 与现有工作流和治理结构保持一致。

SAP 在新咨询范式中的角色

• 嵌入式知识库： SAP 将专有行业知识整合到 AI 流程中，降低对通用 LLM 响应的依赖。
• 与合作伙伴共同开发： 通过与咨询公司合作，SAP 定制符合每个客户数据主权和合规需求的 AI 解决方案。
• 持续验证： 持续的监控和反馈循环确保 AI 建议保持准确和最新。

为企业带来的收益

• 更高的信心 于 AI 生成的洞察。
• 降低风险，避免监管违规或运营错误。
• 加速采纳 AI 于各业务单元，因为 ROI 更清晰，成果可衡量。

展望未来

随着越来越多的组织认识到黑箱 AI 的局限性，市场将日益倾向于将 大型语言模型与深度、情境化的落地 相结合的解决方案。SAP 的战略使其能够引领这一演进，帮助企业在保持控制、合规和信任的前提下，释放 AI 的全部潜能。