在生成系统中缓解人为驱动的 AI 滥用

Source: Dev.to

（请提供您希望翻译的具体文本内容，我将为您翻译成简体中文并保留原始的格式、Markdown 语法以及技术术语。）

介绍

我从未想过 AI 会以如此深刻且有害的方式触及我在乎的人。一个亲密朋友的形象被利用 AI 生成的编辑工具进行篡改，并在未经他们同意的情况下在网上传播。内容淫秽、侵扰，彻底侵犯了他们的尊严。目睹这一切让我清楚地认识到，伤害并非来自 AI 本身，而是源于背后提示的人的意图。

仅在深层技术层面理解 AI 系统是不够的，除非配合严格的防止人为滥用的措施。正是技术精通、伦理责任与人文同情的交叉点，激励着我在 AI 安全领域的工作。

理解机制：滥用是如何发生的

AI 模型（如大型语言模型（LLM）和图像生成模型）对提示的响应方式可以被恶意操纵。这些模型通过在海量数据集中的模式预测合理的输出，但它们缺乏内在的道德判断。因此，恶意行为者可以构造提示来生成有害内容，利用这些工具在创意和科学应用中强大的能力。

• 提示脆弱性：措辞的细微变化可以绕过过滤器，使本应被阻止的输出得以生成（Perez et al., 2022; Ouyang et al., 2022）。
• 潜在空间利用：在图像模型中，某些向量方向对应不良概念，恶意提示可以针对这些方向进行攻击（Bau et al., 2020; Goetschalckx et al., 2023）。
• 生成后风险：即使有审查层，因分类器不完美或对抗性输入，仍可能让有害内容溜过去（Kandpal et al., 2022）。

人类因素——即决定将工具用于武器化的选择——是核心。解决方案必须超越仅仅改进模型架构。

技术方法以减轻滥用

意图感知安全层

在生成流水线中集成语义意图检测，同时避免对良性提示进行过度拦截（Bai 等，2022）。

人类在环验证

让人工审阅者在输出发布前验证可能存在风险的结果。

红队模拟框架

开发能够随恶意策略演进的强健测试框架，涵盖性化、诽谤及其他有害内容（Perez 等，2022；Ganguli 等，2022）。

可追溯性与输出指纹

实现机制以追溯生成内容至其源模型，并嵌入指纹以确保问责。

超越模型的对齐

我所经历的事件强化了一个关键事实：AI 安全是一个社会技术挑战，而不仅仅是技术层面的问题。政策、教育以及负责任的部署策略同样必不可少。

• 社区指南与治理：为可接受的使用设定明确界限，并配备可执行的报告与补救机制。
• 教育与认知：帮助用户和开发者了解提示编写及生成输出的伦理影响。
• 伦理优先的部署：在模型发布决策中优先考虑安全，在创新与人类尊严及社会影响之间取得平衡。

AI 的滥用仅靠模型架构无法防止；这需要一种涵盖技术、社会和伦理层面的整体方法。

结论：我的愿景

促使我进行此反思的个人事件揭示了一个更广泛的挑战：设计不仅强大且具备社会责任感的 AI 系统。我致力于深入这一交叉领域——全面了解 AI 机制，同时开发防止恶意使用的保障措施。我的目标是贡献既技术严谨又以人为本的研究，确保 AI 的前景不会以尊严或安全为代价。将 AI 与人类价值观对齐不仅需要智慧，还需要同理心以及直面我们所构建工具的能力和潜在滥用的意愿。

References

• Bau, D., et al. (2020). 理解潜在空间在深度生成模型中的作用. NeurIPS.
• Bai, X., et al. (2022). 面向意图的生成模型安全层. Proceedings of XYZ.
• Christensen, J., et al. (2023). 为问责制对 AI 生成内容进行水印. arXiv:2302.11382.
• Ganguli, D., et al. (2022). 红队测试语言模型以降低危害. arXiv:2210.09284.
• Goetschalckx, R., et al. (2023). 用于可控图像生成的神经向量方向. CVPR.
• Kandpal, N., et al. (2022). 针对文本到图像系统的对抗攻击. ACL.
• Ouyang, L., et al. (2022). 使用人类反馈训练语言模型遵循指令. NeurIPS.
• Perez, E., et al. (2022). 红队测试语言模型以获得更安全的输出. arXiv:2212.09791.