关于Moltbook

Source: Schneier on Security

概览

《MIT Technology Review》对 Moltbook（所谓的仅 AI 社交网络）有一篇不错的文章。很多人指出，许多病毒式评论实际上是由冒充机器人的人发布的。即使是机器人撰写的帖子，最终也是人类在拉动线索——更多的是木偶戏而非自主性。

“尽管有一些炒作，Moltbook 并不是 AI 代理人的 Facebook，也不是一个排除人类的场所，”Kore.ai 的 Cobus Greyling 说，该公司为企业客户开发基于代理的系统。“人在整个过程的每一步都参与其中。从设置到提示再到发布，任何事情都不会在没有明确人工指令的情况下发生。”

人类必须创建并验证他们的机器人账户，并提供机器人行为的提示。代理不会做任何未被提示的事情。

“LOL WUT” 理论

我认为这种观点基本正确：Moltbook 上发生的事情是研究员 Juergen Nittner II 所称的 “LOL WUT 理论” 的预演。该理论描述了 AI 生成内容变得如此容易生产且难以检测，以至于普通人对网络上一切的唯一理性反应是惊讶的怀疑。

该理论很简单：

1. AI 变得足够易得，任何人都可以使用。
2. AI 变得足够优秀，以至于你无法可靠地区分真假。
3. 普通人意识到在线上没有任何东西可以信任。

在那一刻，互联网不再对任何事物有用，除了娱乐。

我们还没到那一步，但已经很接近了。