OpenAI将在美国军方反弹后更改协议

Source: BBC Technology

OpenAI 修订与五角大楼的协议

OpenAI 表示正在对其与美国政府就其技术在机密军事行动中使用所签订的“投机且草率”的协议进行修改。此举引发了关于人工智能在战争中的使用方式以及政府与私营公司权力分配的诸多疑问。

OpenAI 在周六发布的声明中声称，其与五角大楼的协议“比以往任何机密 AI 部署协议（包括 Anthropic 的）都有更多的防护措施”。周一，CEO Sam Altman 在 X 上发帖称，正在进行进一步的修改，包括确保系统不会被“有意用于对美国公民和国民的国内监视”。

作为新修正案的一部分，情报机构（如国家安全局）也将无法在没有对合同进行“后续修改”的情况下使用 OpenAI 的系统。Altman 补充说，公司在匆忙“在周五推出此项”时犯了错误。

“这些问题极其复杂，需要明确的沟通，”他说。
“我们真的在努力降级事态，避免更糟的结果，但我想这看起来却是投机且草率的。”

在 OpenAI 宣布与五角大楼合作后，用户对其产生了强烈反弹。公司 ChatGPT 移动应用的每日卸载率据称在周六飙升至 295 %，而平时仅为 9 %。与此同时，Anthropic 的 Claude 在苹果 App Store 排行榜上升至首位，并在周二仍然保持该位置。

该 AI 模型曾在特朗普政府时期被列入黑名单，因为 Anthropic 拒绝放弃一项企业“红线”原则——即其技术不应用于制造全自主武器。尽管如此，Claude 在美伊战争（美国‑以色列对伊朗）中的使用随后出现，就在禁令生效数小时后。五角大楼对其与 Anthropic 的交易拒绝置评。

人工智能在军队中的应用

人工智能在军队中以多种方式被使用，例如简化后勤并快速处理大量信息。

美国、乌克兰和北约都使用 Palantir 的技术，这是一家美国公司，为政府客户提供用于情报收集、监视、反恐和军事目的的数据分析工具。英国国防部最近与该公司签署了一项价值 2.4 亿英镑的合同。

去年底，BBC 与一些参与将 Palantir 的 AI 驱动防务平台 Maven 整合进北约的人员交谈。该软件汇集了大量军事信息——从卫星数据到情报报告——随后可以由商业 AI 系统（如 Claude）进行分析，以帮助在适当情况下做出“更快、更高效、最终更具致命性的决策”，Palantir 英国业务负责人 Louis Mosley 如是说。

Palantir AI 系统演示的截图。

大型语言模型可能会出错，甚至捏造信息——这被称为“幻觉”。北约任务部队 Maven 的首席数据官、少校 Amanda Gustave 强调，系统始终有人类监督，她补充说他们“始终在环中引入人类”，并且“绝不会出现 AI 为我们做决定”的情况。

Palantir 与 Anthropic 不同，它并不支持对自主武器的全面禁令，而是主张应有“人在环中”。牛津大学的 Mariarosaria Taddeo 教授在接受 BBC 采访时表示，随着 Anthropic 离开五角大楼，“最注重安全的参与者”现在已经“离开了现场”。

“这确实是个真实的问题，”她补充道。

想了解更多 AI 相关报道，请参阅 BBC 的 AI Unpacked 系列。