我停止使用 AI 自动化决策——并设计了更好的协作方式

Source: Dev.to

Introduction

像许多开发者一样，我最初通过优化提示词并推动更好的输出使用 AI。它起作用了——直到我在高风险文本场景中使用 AI，错误会带来真实后果。那时我意识到真正的问题不在于模型质量，而是责任在交互过程中悄然转移。

高风险场景下全自动化的问题

• 在低风险任务中，全自动化高效且无害。
• 在高风险环境中，自动化会导致结构性不匹配：
  • AI 看似在做判断。
  • 人类仍然承担后果。
  • 决策边界变得隐含。

无论模型多么优秀，AI 并不是承担责任的实体。这一差距很重要。

我没有更换模型 — 我更改了交互模式

解决方案并不是更好的提示或更多的防护措施，而是改变了 谁做什么以及以何种顺序。我停止让 AI：

• 决定结果
• 站队表态
• 给出最终结论

相反，我将 AI 限定在另一个角色——结果证明这个角色要高效得多。

简单的人机协作模式

工作流程故意保持最小化：

1. 人类定义事实和边界

   • 没有结论，没有优化，只是确认的输入。

2. AI 展示变量和风险

   • 哪些因素重要？
   • 弱点在哪里？
   • 什么可能升级？

3. 人类选择路径

   • 权衡和风险容忍度由人类决定。

4. AI 结构化并检查一致性

   • 组织、清晰度、内部对齐——仅此而已。

AI 不做决定；它揭示决策空间。

什么改进的不是速度——而是控制

在此变更之后，最大的提升并不是生产力，而是意识。我能够清晰地看到：

• 哪些决策是我的
• 风险从何处进入系统
• 为什么选择了特定的路径

AI 不再表现为黑箱，而是开始像风险雷达一样运作。

为什么我不再为“更好写作”进行优化

在高风险环境中：

• 更好的措辞 ≠ 更安全的结果
• 更强的语言 ≠ 更好的控制
• 自动化 ≠ 可靠性

真正重要的因素：

• 可追溯性
• 明确的决策点
• 人类随时重新介入循环的能力

完全自动化的生成往往会隐藏这些。

这并非限制 AI —— 而是正确安置它

我并不反对 AI 的能力；我反对 无人拥有的能力。AI 在以下情况下最有价值：

• 拓展人类的认知
• 使权衡取舍变得明确
• 在做出承诺之前迫使思路清晰

而不是在悄悄取代判断时。

范式转变，而非工具升级

这并不是关于提示、框架或模型，而是关于重新思考在人类与 AI 交互中错误至关重要的情形。

• 旧问题：“AI 能为我完成这件事吗？”
• 更好的问题：“这种交互是否将责任保持在应有的位置？”

最终思考

在高风险系统中，AI 能提供的最有价值的东西不是答案，而是清晰。当 AI 帮助人类理解他们正在决定的内容——而不是替他们做决定——协作就会变得更安全、更强大、更可持续。

FAQ

Q1: 为什么在法律场景中强调人机协作，而不是完全的 AI 自动化？
A: 因为真正的危险在于悄悄把判断和责任转移给系统。协作把判断保留在人类手中，并将 AI 限制在结构、分析和风险暴露上。

Q2: 如果用户没有法律专业背景，这不是更危险吗？
A: 实际上更安全。缺乏法律专业知识正是不可将不可逆决策自动化的原因。协作可以防止用户跨越他们并未意识到的界限。

Q3: 为什么把法律交互描述为“博弈论”而不是对抗性？
A: 法律体系的设计目的是控制和压缩风险，而不是升级冲突。战略性互动可以减少变量；对抗则会增加变量。

Q4: 为什么最终责任必须始终由人承担？
A: 责任是决策的锚。AI 可以分析并模拟后果，但它不能拥有结果。没有人的责任锚，系统就会漂移。

Q5: 这样做不是在限制 AI 的潜力吗？
A: 并非如此。限制的是把 AI 当作自主决策者的幻觉。真正的 AI 潜力在于放大人的判断，而不是取代它。

Q6: 如果人类判断错误，为什么 AI 不应该纠正他们？
A: “纠正”本身是一种决策权威。AI 可以呈现风险和备选方案，但最终选择必须由人来做，以保持问责制。

Q7: 为什么这种协作模型比 AI 自动化更难复制？
A: 自动化复制的是输出。协作则嵌入了人的判断、克制和责任，这些是无法克隆或标准化的。

Q8: 为什么坚持要改变人机交互范式？
A: 因为当前的范式在高风险环境中结构性失效。问题不在于模型的强度，而在于权威的错位。

Q9: 为什么演示故意保持极简？
A: 因为价值在于交互顺序，而不是展示的功能。核心洞见是谁先决定，谁后表达。

Q10: 这种方法适用于所有人吗？
A: 不适用。它刻意过滤掉寻求“一键自动化”的用户。对于有真实后果的场景，这种过滤是一种特性——而非缺陷。