美国在AI安全措施争议中向Anthropic发出最后通牒

Source: BBC Technology

对 Anthropic 的威胁

美国国防部长 Pete Hegseth 表示，如果 Anthropic 拒绝让其人工智能（AI）技术用于军事应用，国防部将把该公司从国防供应链中剔除。一位五角大楼高级官员称，Anthropic 必须在本周五晚上之前响应国防部的请求。如果公司不同意，Hegseth 表示将动用《国防生产法》，可能迫使 Anthropic 高管在国家安全的理由下允许五角大楼不受限制地使用其技术，并将该公司标记为供应链风险。

与 Anthropic 的讨论

此威胁在 Hegseth 要求与 Anthropic CEO Dario Amodei 会面的五角大楼会议上提出。知情人士透露，会议氛围友好，但 Amodei 列出了 Anthropic 的红线：

• 参与自主动力作战，即 AI 在没有人为干预的情况下做出最终目标决定。
• 将 Anthropic 工具用于大规模国内监视。

五角大楼官员澄清，目前的争议与自主武器或大规模监视无关。

Anthropic 的回应

Anthropic 发布声明称，公司仍在“本着诚意的对话”中，讨论使用政策，以确保 Anthropic 能在其模型能够可靠且负责任地执行的范围内，继续支持政府的国家安全任务。公司发言人指出，Amodei 在会议上“对国防部的工作表示感谢，并感谢部长的服务”。

其他拥有五角大楼合同的 AI 公司

Anthropic（Claude 聊天机器人的制造商）是去年夏天获得五角大楼合同的四家 AI 企业之一。其他获约方包括：

• Google
• OpenAI（ChatGPT 的创建者）
• xAI（埃隆·马斯克旗下的 Grok 聊天机器人）

每份合同的价值最高可达 2 亿美元（约 1.48 亿英镑）。

安全记录与争议

Anthropic 将自己定位为以安全为核心的 AI 开发者，定期发布产品安全报告。去年的一份报告承认，其技术曾被黑客“武器化”，用于复杂的网络攻击。

该公司声誉在一些报道后受到审视——报道指出，美国军方在 1 月进行抓捕前委内瑞拉前总统尼古拉斯·马杜罗的行动中使用了 Claude。