你不需要了解它是如何运作的——这正是问题所在

Source: Dev.to

Introduction

这不是一篇关于 AI 的文章，而是关于从不追问“为什么”的人会发生什么的文章。

我在一次抗议活动中，有人告诉我互联网应该是一项人权。他手里抱着一台四千磅重的笔记本电脑，另一只手拿着咖啡，戴着耳机，激情澎湃、口齿伶俐、十拿九稳。我问他，互联网到底是什么。

他描述了 Facebook、YouTube、和朋友聊天。我说：那是万维网（World Wide Web）。那互联网是什么？他看了看我，然后说：万维网是什么？我感到害怕——不是因为他不知道，而是因为他在大声喊叫一件他从未尝试去理解的事。

What the Internet Is

互联网是基础设施：物理光缆、服务器、路由系统，建设成本高达数十亿美元。万维网则是建立在其之上的应用层。网络是乘客，互联网是道路。

这并不复杂。只要花大约十分钟就能明白，但大多数每天依赖它的人从未花过这十分钟。

Design and Dependency

使用某物与理解某物之间的鸿沟正成为我们最危险的裂痕之一，而我们正有意在扩大它——不是出于恶意，而是出于设计。

• 想想从未换过轮胎的人。工具在后备箱里；它们随车而来，但那个人从未好奇去尝试。
• 你手中的手机并不是一部电话。它是一个注意力系统，设计得尽可能无摩擦——并不是为了你的利益。摩擦产生思考的条件，思考产生需求的条件，而需求是昂贵的。

工具越容易使用，你需要理解的就越少。你理解得越少，你就越依赖它。你越依赖它，你对构建它的人就越有价值。这不是巧合；这是一种商业模式。

AI and Judgment

我听到技术领袖说，你不再需要自己思考，AI 会替你思考，编程将在今年年底变得无关紧要。

我想要精准表述。大型语言模型根据人类文本中的模式预测下一个词——能力非凡，但并不在“思考”。这一区别很重要，因为那些告诉你 AI 会取代你判断的人，往往正是最能从你相信这一点中获益的人。

当一种技术被包装成不可避免时，你越应该紧迫地问：谁从这种必然感中受益。这不是偏执；这是在技术世界中成为自由人的最低前提。

The Cost of Simplicity

每当我们为了提升参与度而牺牲理解，每当我们让产品变得更简单，却以剥夺主动性而非减少摩擦的方式实现，我们就在扩大这道鸿沟。

去除不必要的复杂性与去除思考条件之间是有区别的。我们大多数人已经不再问自己到底在做哪一种。

真正的问题不是：这个产品能工作吗？而是：这个产品在使用者与其自我质疑世界的能力之间建立了怎样的关系？目前大多数正在构建的产品都在朝着依赖性单向回答。

Conclusion

抗议现场的那个人并不愚蠢。他是一个被设计成让理解变得不必要的系统的产物。我们构建了这个系统；我们中的一些人每天都在维护它。

所以问题不在于你的用户是否理解你在构建什么。问题在于你是否曾停下来问过自己，是否真的想让他们理解。

这是一段改编自更长篇关于依赖、数字素养以及技术建设者所需共享领导力的文章的摘录。完整文章请见此处。