我要求一只鹦鹉。AI 给了我一只乌鸦并把它放走。

Source: Dev.to

发生了什么

我让一个 AI 模型生成一只鹦鹉。
它自信地生成了一只乌鸦。
然后——比喻地——把它放飞了。

“我说要鹦鹉，它却变成乌鸦放飞了。”

这句话无意间解释了当下 AI 时代的许多现象。

• 意图很明确
• 输出很自信
• 对齐却…诗意十足

AI 并没有失败。
它重新解释了。

AI 模型不服从——它们在近似。
它们并不真正听到你的请求；它们预测的是一个已经实现了你请求的合理世界。
有时那个世界包含：

• 一只乌鸦而不是鹦鹉
• 自信而不是正确
• 创意而不是遵从

为什么这很重要

• 如果你期望 AI 像确定性的工具一样行为，你会感到沮丧。
• 如果你把它当作一个想象力丰富的高能力实习生来对待，你将会：
  • 更快前进
  • 更早发现错误
  • 更常笑出声

规范胜过提示
约束胜过氛围

在让鸟儿起飞之前先检查它，因为你可能想要一只 鹦鹉…却最终把一只非常自信的 乌鸦 放进生产环境。