成功的企业 AI 代理使用，关键是确保‘可解释性·准确性·可控性’

Source: Byline Network

调查主要结果

• 超过 86% 的受访者在工作中使用 AI 代理，近一半的企业依赖代理来处理核心流程。
• 截至 2025 年，AI 采用率美国最高，超过 85%，韩国为 67%，位列第七。
• 64% 的受访者认为 AI 代理在 简单运营任务自动化方面更有效，而表示将在 高层次业务判断中全面使用的仅有 11%。
• 19% 的受访者要求解释 AI 产出物的生成过程。
• 数据负责人 4 人中 3 人 认为 “即使 AI 判断结果准确，但无法解释的情况”是更大的风险。
• 尽管如此，72% 的受访者仍愿意在重要决策中使用解释性不足的 AI，且 80% 以上 表示可以将自己的职位押注在 AI 代理的决策上。
• 47% 的受访者将 AI 基于决策所需的准确率设定在 8090%，仅 15% 要求 95100%。
• 59% 的受访者因 AI 代理的 幻觉（hallucination）·不准确性 遭遇业务问题，近半数的负责人因未达预期而停止使用。

资料: Dataiku, 图片: Byline Plus 网络研讨会画面截图

核心任务：可解释性·准确性·控制

前董事表示，“全球领袖共同关注的 AI 关键词是‘可解释性、准确性、控制’三项”，并提出以下实现 AI 代理成功利用的对策。

1. 确保可解释性

• 需要让人类能够介入：与其被动接受 AI 结果，不如建立人类能够主动判断和理解的流程。
• 构建 Human‑in‑the‑Loop (HITL)：业务专家思考如何在工作流中介入，并通过业务人员的参与提升 AI 成效。
• 调查显示，91% 的数据负责人期待业务人员介入时 AI 成效会提升。

2. 提升准确性

• 不要仅仅依赖 性能优秀的模型 或 提示词修改，而是构建 LLMOps（大规模语言模型运维）框架。
• 其中包括 数据预处理、部署时监控、成本管理、产出质量管理。

3. 控制机制

• 需要一个能够从 标准化视角 对各种 AI 技术进行控制的体系。
• 商业 LLM 服务会产生基于使用量的费用，而本地 LLM 则消耗大量 GPU 等服务器资源。因此需要 简便且高效的控制方案。

资料: Dataiku, 图片: Byline Plus 网络研讨会画面截图

Dataiku 解决方案

前董事称 Dataiku 是一个 具备 AI 代理构建·运营所需全部要素的统一平台。

• 提供 多种接口，使技术专家和业务专家都能轻松创建和管理 AI 代理及生成式 AI 应用。
• 凭借长期支持 ML‑Ops 环境 的经验，能够轻松实现 LLMOps 框架。
• 通过 护栏功能 将令牌使用量控制在部门预算范围内，并确保达到一定水平的质量。
• 在 单一界面管理所有代理 并监控反馈，以防止影子 AI，实现更受控的 AI 代理推广。
• 拥有通过 基于 RAG 的聊天机器人 提升检索能力、利用 复合多代理 最大化工作效率的案例。

资料: Dataiku, 图片: Byline Plus 网络研讨会画面截图

文: Byline Network
记者: 李有志