白宫备忘录称中国企业大规模 AI 盗窃

Source: BBC Technology

白宫关于 AI 盗窃的备忘录

白宫宣布将与美国人工智能（AI）公司更紧密合作，以打击外国行为者发起的“工业规模”盗窃技术的行动。

科学与技术政策局局长 Michael Kratsios 在内部备忘录中写道，政府获得了新信息，显示“主要位于中国的外国实体”正在利用美国公司。通过一种称为 distilling（蒸馏） 的过程，这些实体复制美国公司开发的 AI 技术。

白宫计划的行动

Kratsios 概述了四个步骤，以“避免并阻止恶意利用”：

1. 向美国 AI 公司分享更多信息，包括蒸馏行动中使用的策略和涉及的行为者。
2. 加强与公司之间的协调，共同抵御这些攻击。
3. 制定最佳实践，用于识别、缓解和修复蒸馏行为。
4. 探索对外国行为者的问责机制。

备忘录未详细说明针对被发现进行美国 AI 技术蒸馏的实体的具体行动计划。白宫发言人对备忘录之外的内容拒绝置评。

中国的回应

中国驻华盛顿大使馆的一位代表对所谓的“美国对中国公司的不公正压制”提出异议。该发言人表示：

“中国不仅是世界的工厂，也正逐渐成为世界的创新实验室。
中国的发展是其自身奉献和努力以及国际合作带来互惠互利的结果。”

蒸馏行动的工作原理

蒸馏行动由运营数千个单独账户的公司执行，这些账户用于特定的 AI 聊天机器人或工具，使其看起来像普通用户。这些账户随后进行协调性尝试，以“越狱”或以其他方式曝光本不应公开的 AI 模型信息。收集到的数据被保存并用于该公司的自有 AI 模型构建和训练。

“随着检测和缓解工业规模蒸馏的方法日益成熟，建立在如此脆弱基础上的外国实体对其所生产模型的完整性和可靠性应当缺乏信心，” Kratsios 说。