美国军方领导人会见 Anthropic，反对 Claude 安全措施

Source: Hacker News

背景

美国军方领导人，包括国防部长 Pete Hegseth，于周二与人工智能公司 Anthropic 的高管会面，讨论政府使用该公司大型语言模型 Claude 的争议。Hegseth 给 Anthropic CEO Dario Amodei 设定了截至本周五当天结束前接受国防部（DoD）条款的期限，否则将面临处罚，正如 Axios 报道的那样。

Anthropic 自称是最注重安全的 AI 公司之一，但在过去数周里，它与五角大楼在军方如何使用 Claude 的问题上存在分歧。美国国防官员希望无限制地访问 Claude 的能力，而据 Wall Street Journal 报道，Anthropic 据称抵制其模型被用于大规模监视或能够在无人类干预下致人死亡的自主武器。

谈判

• 国防部要求：在所有合法的军事用途上完全访问 Claude。
• Anthropic 的立场：拒绝支持与其安全政策冲突的用途，例如自主致命系统或大规模监视。
• 潜在惩罚：国防部已威胁采取惩罚性措施，包括取消一项大合同并将 Anthropic 列为“供应链风险”（Axios）。

这些谈判的结果可能为 AI 行业如何回应政府对军事应用的需求树立先例——这一直是研究人员和伦理 AI 倡导者之间的争议焦点。

Industry Context

• 去年七月，国防部与几家主要 AI 公司——Anthropic、Google 和 OpenAI——签订了价值最高达 $200 million 的合同。直到最近，Claude 是唯一获准在机密军事系统中使用的模型。
• 周一，国防部签署了另一项协议，允许在机密环境中使用 Elon Musk’s xAI chatbot，尽管该模型最近因生成未获同意的儿童性化图像而受到强烈反弹（Axios）。
• 据报道，xAI 和 OpenAI 都已同意政府的条款。根据Washington Post，一位国防官员表示 OpenAI 允许其模型用于“所有合法目的”。OpenAI 尚未对该协议发表评论。

政治影响

• 会议紧随一则报道事件之后，报道中称美国军方使用 Claude 协助捕获委内瑞拉领袖 尼古拉斯·马杜罗。
• 特朗普政府推动人工智能快速融入武装部队，前总统唐纳德·特朗普一再承诺美国将在全球 AI 军备竞赛中获胜。
• 埃米尔·迈克尔，五角大楼首席技术官、前 Uber 高管，公开敦促 Anthropic “跨越卢比孔河”并接受国防部的条款，声明：“如果有人想从政府赚钱，那些防护措施应当针对我们的使用案例进行调校——只要它们是合法的。”（Defense Scoop）。

Anthropic的立场与融资

• Dario Amodei 长期主张更严格的 AI 监管。Anthropic 支持一个政治行动委员会，推动对人工智能实施强有力的安全措施。
• Amodei 在 2024 年总统竞选期间反对特朗普，Anthropic 也聘用了数位前拜登幕僚。根据 Wall Street Journal，这种政治立场导致一家亲特朗普的风险投资公司在今年早些时候撤回了投资。

道德关切

美国国防部已向 AI 驱动的技术投入数十亿美元，范围涵盖无人航空无人机到自动化目标系统。这些工具的快速发展引发了关于将致命决策委托给 AI 的紧迫伦理问题。该问题已不再是理论上的；乌克兰战争中已经出现能够在无人控制下操作的 致命半自主无人机（NY Times）。