我可能错了

Source: Dev.to

“你说得完全正确！”的时刻

如果你曾经花时间与 AI 代理一起工作，你可能已经见过这种回应：

你说得完全正确！

我讨厌它。它通常出现在你已经浪费了大量 token，却仍然无法弄清楚情况时。那是一种挫败感——人类必须自己诊断问题并指出解决方案的时刻。

我会怪罪代理。它为什么不能直接说 “我错了”？它之前为什么会有如此强的自信，却没有一点 “也许我错了” 的暗示？

正是这些时刻让我怀疑 AI 是否真的能取代人类智慧。

重新审视这句话

随着经验的积累，我开始以不同的视角看待 你说得完全正确！。它仍然令人沮丧，但现在我把它当作一种信号。

LLM 作为概率机器

LLM 被训练来遵循人类指令，但你并不是在与能够推理和反思的集体智慧对话。你是在把思考投射到一个返回最可能下一个 token 的概率机器上。

本质上，你大部分时间是在和自己（以及你的代码）对话。LLM 就像坐在你桌子旁的橡皮鸭，帮助你理清想要实现的目标。LLM 能回答问题，但当涉及开放式探索——没有明确终点的研究时——你主要是在和自己的思考进行对话。

利用这个提示

所以当我看到 你说得完全正确！ 时，我会把它当作提醒——后退一步，跳出框架，寻找缺失的环节。沮丧吗？有点。但这也让人感到解放。

文学的提醒

在这些时刻，我在计算机科学之外找到了智慧：一本我最近读的书，I May Be Wrong（《我可能错了》），作者是 Björn Natthiko Lindelbad——一本关于一位瑞典男子在泰国成为森林僧人的美丽回忆录。

这本书讲的是放下控制、拥抱不确定性（听起来很熟悉吧？）。你的想法并不等同于你本人；你可能是错的。它与软件工程或 AI 毫无关系。但我想借用这本书的标题作为提醒——放在我的桌子旁，当我沉浸于代码时的备忘。

我可能错了。

是时候后退一步——放手，不再盲目相信自己所有的想法。