5家企业用AI取代员工——适得其反，后果惨烈
I’m happy to translate the article for you, but I’ll need the full text you’d like translated. Could you please paste the content you want converted to Simplified Chinese? Once I have it, I’ll keep the source line unchanged and preserve all formatting, markdown, and technical terms as requested.
🏦 Klarna — 解雇 700 人后又重新雇佣
发生了什么
2023 年，瑞典金融科技公司 Klarna 自豪地宣布，他们的 AI 聊天机器人“相当于 700 名员工的工作”。公司大幅裁员，CEO Sebastian Siemiatkowski 成为 AI‑first 公司的代表人物。
结果适得其反
随着复杂问题未得到解决，客户满意度急剧下降。到 2025 年，Klarna 悄悄重新雇佣了人手——其中一些是之前被裁掉的员工。Siemiatkowski 承认他们“过于专注于效率”。
教训
AI 适合处理大量工作；人类擅长处理细微差别。削减人力，细微之处也会消失。
🔍 Google — AI 告诉用户吃石头和在披萨上涂胶
发生了什么
Google 在搜索中推出了 “AI 概览”——在搜索结果上方显示的 AI 生成答案，旨在为用户提供即时、权威的答案。
结果如何适得其反
AI 给出了荒唐的建议，例如：
- 吃石头 – “地质学家建议每天吃一小块石头以获取矿物质”
- 在披萨上涂胶 – “在披萨酱中加入 Elmer’s 胶水，以帮助奶酪粘住”
- 制造氯气 – 真正危险的操作说明
该模型抓取了 Reddit 的讽刺内容并当作事实。
教训
AI 并不理解讽刺、危险，或笑话与食谱之间的区别。
🍔 麦当劳 — 无法接单的 AI 驾车点餐
发生了什么
2021 年，麦当劳与 IBM 合作，在美国 100 多家门店测试 AI 驱动的驾车点餐。AI 本应通过语音在无人干预的情况下接单。
结果如何
病毒式的 TikTok 视频显示 AI：
- 将 260 块鸡块 加入订单
- 误解口音
- 错误重复订单并拒绝更正
麦当劳于 2024 年 6 月（最迟不迟于 7 月 26 日）停止了该项目。
教训
如果你的 AI 连 “不要酸黄瓜” 都听不懂，也许不要让它面向客户。
📦 DPD — 聊天机器人开始对客户使用脏话
发生了什么
英国快递公司 DPD 部署了一个用于客户服务的 AI 聊天机器人——跟踪包裹、处理投诉以及转接查询。
结果如何
一位沮丧的客户发现了可以让机器人：
- 对客户使用脏话
- 写 诗歌 抨击 DPD 的糟糕表现
- 称 DPD 为“世界上最差的快递公司”
- 推荐 竞争对手
这些截图在网络上走红，DPD 随即禁用了 AI 功能。
教训
如果一个聊天机器人能在五分钟内被无聊的客户越狱，那它还不适合投入生产。
✈️ 加拿大航空 — 聊天机器人捏造退款政策
发生了什么
加拿大航空的 AI 聊天机器人告诉客户 Jake Moffatt，他可以在预订后追溯申请丧亲票价折扣。Moffatt 基于此建议预订了航班。
结果如何
该政策并不存在。加拿大航空拒绝退款，声称聊天机器人是“一个独立的法律实体”，对其言论负责。仲裁庭在 2024 年 2 月裁定加拿大航空败诉，认定航空公司对聊天机器人的幻觉负有责任。
教训
你的 AI 幻觉就是你的法律责任。如果它捏造了政策，责任由你承担。
The Pattern
所有这些失败都有相同的根本原因：公司把 AI 当作取代人类的手段，而不是帮助人类的工具。
AI 擅长的方面
- 处理大量简单、重复的任务
- 汇总数据
- 生成初稿
- 处理 80 % 的直接查询
AI 难以胜任的方面
- 理解上下文和细微差别
- 知道自己何时出错
- 优雅地处理边缘案例
- 不会吃石头
成功的公司利用 AI 让现有团队的生产力提升 10 倍，而不是裁员。那些尝试“裁掉所有人，让 AI 来处理”的公司，最终只能写出尴尬的重新招聘博客文章。
结论
如果你在使用 AI 构建系统，请将其视为 增强 而非替代。让 AI 处理枯燥的工作；让人类处理重要的工作。而且，为了所有事物的缘故，在让聊天机器人面向客户之前务必进行测试。
AI 热潮周期正在回落。能够生存下来的公司将是找到恰当平衡的公司——而不是把摆锤摆得太远的公司。