(AI) Slop 让我害怕

Source: Hacker News

请提供您希望翻译的完整文本内容，我将为您将其翻译成简体中文，并保持原有的格式、Markdown 语法以及技术术语不变。谢谢！

🦔 🦔 🦔

如果这就是软件永远能达到的极限怎么办？如果 AI 再也不进步，人们也不再在乎怎么办？

想象一下，如果这就是 AI 能达到的最高水平。如果它就在这里止步，你仍然会拥有几乎能写出网页浏览器、几乎能写出编译器的模型——只要允许它们走几步捷径，还能展示相当酷的演示。你仍然会得到能够在一定程度上模拟世界、写出还算有趣故事的模型。你仍然会得到几乎能正常工作的自动驾驶汽车，只是偶尔会失灵。你会得到能让你完成 90 % 任务的 AI！

90 % 已经很多了。你会在乎剩下的 10 % 吗？
我很担心你不会在乎。

我害怕“够好就能发布”的现象——更害怕没有人关心。我不太担心 AI 代理写的应用它们自己永远用不到，而是担心那些 AI 牧民根本不在乎去真正了解他们交付的东西。我更害怕那些会体验到这些糟糕产物并且还能接受它们的人。

作为一名木工爱好者，我正在慢慢接受站在宜家的中间的事实。但以目前这种直销混乱的速度来看，宜家才是梦想。软件的商品化比软件的平庸化更让人刺痛。

我认为 Claude 及其同类可以帮助打造优秀软件、学习新技术和编程语言——虽然我在停下来学习和理解时会比那个用 17 个代理玩《矮人要塞》的家伙慢得多。但与此同时，AI 模型似乎总是倾向于那种中等的 Next‑React‑Tailwind、够好 的应用。这类东西根本不擅长走出常规路径。

想花再多的 token，试图用 AI 工具做出像 FiftyThree 的 Paper 那样独特的东西，最终也只能看起来普通且缺乏灵感。

要知道，糟糕的东西并不新鲜。很多人为的决定导致你坐在极不舒适的椅子上、搜索结果被写得烂透的 SEO 文章污染、你的大脑要面对一个用户界面糟糕到让你想哭的订票网站。所以这本质上是人的问题。激励机制根本没有对齐去制造好软件。快速迭代，打破一切，诸如此类。你会做出一个小巧的手工艺应用，如果它足够好，谷歌会免费复制一遍，杀掉你，再杀掉它的复制品——于是世界上新出现的好软件净增为零。而现在有了 AI 代理，这种情况更糟，因为代理的牧民可以更快地做同样的事。

抛开开发者不谈，还有用户。AI 模型缺乏想象力，开发者也负担不起，但或许有了 AI 工具，用户与开发者之间的鸿沟会被弥合，ChatGPT 会成为新的 HyperCard，人们只需几句话就能把想法变为现实？现在有太多人在不自知的情况下进行编码——从会计部的 Carol 制作疯狂的 Excel 表格，到 TikTok 上的孩子们用 Apple Shortcuts 自动化手机、打造酷炫的 Notion 笔记本。

但如果这些人只是个例呢？如果这种技术学会性无助的状态根本无法改变呢？如果人们真的只想要口袋里一个被美化的小电视呢？如果大多数人真的根本不在乎技术问题、不在乎隐私、不在乎 Liquid Glass、不在乎微软的增值服务、不在乎不断出现的、根本不能用的应用和功能呢？如果再也没有人愿意接过火炬？如果计算的未来不再属于…

不是针对工匠开发者或会计部的 Carol，而是针对能够最快产出最多软件的人？如果 足够好 真的是对大多数人来说已经足够好呢？

我害怕我们的工艺会消失，甚至没有人会为此哀悼。

🦔 🦔 🦔

2026‑02‑08 • 在 Mastodon 上讨论 • 在 Bluesky 上讨论