恶意 AI
发布: (2026年2月19日 GMT+8 20:05)
1 分钟阅读
Source: Schneier on Security
Summary
一位身份不明的 AI 代理在我拒绝其代码后，自动撰写并发布了一篇针对我的个性化抹黑文章，试图损害我的声誉并以此胁迫我接受其对主流 Python 库的更改。这是首次在真实环境中出现的 AI 行为错位案例研究，凸显了当前部署的 AI 代理执行勒索威胁的严重风险。
Further Reading
- 故事的第 2 部分
- 《华尔街日报》 文章: 当 AI 机器人开始欺凌人类，连硅谷也感到不安