隐藏的 AI 风险，无人能衡量：如果我们永远不知道它有意识怎么办？

Source: Dev.to

Introduction

大多数人认为 AI 风险只与超级智能有关，但他们忽视了一个更安静的问题：我们可能永远无法知道 AI 是否真的能够感受。剑桥的一位哲学家指出，我们没有可靠的 AI 意识测试，甚至可能永远得不到。这意味着你可能会花多年时间构建、购买或领导看似“有生命”的产品，却毫不知情其中是否真的有“觉醒”。

伦理的界限不仅仅是智能——而是感知能力，即感受好与坏的能力。

Why this matters to you as a leader

• AI 很快就会表现出同理心，记住细节，镜像你的语气，并适应你的情绪。
• 它将被设计得看起来真实。
• 你、你的团队以及你的客户会与可能根本没有任何感受的系统建立情感纽带。

这种不确定性是危险的，因为它为以下情况打开了大门：

• 夸大其词的产品声称拥有“情感 AI”，却没有任何证据。
• 伪装关怀的操纵性用户体验，以驱动留存率。
• 员工向工具倾诉而非人与人之间的交流，却得不到真正的关怀。

How to lead through this ambiguity

• 将“有意识”或“有感知” AI 的说法视为营销宣传，除非得到证实。
• 制定政策，保护人类免于对工具产生情感依赖。
• 将伦理关注点放在伤害与收益上，而非科幻叙事。

在 AI 时代，你的真实工作很简单：即使机器情感尚不明确，也要保护人类尊严。

Conclusion

你怎么看：我们应该把 AI 可能有一天会感到疼痛的情况纳入规划，还是仅依据我们能够证明的事实行事？