· ai
如何在不自行构建的情况下保护 LLM 输入免受 Prompt Injection
如果你正在构建将用户输入传递给 LLM 的应用程序，你可能至少遇到过一次 prompt injection。用户可能会输入类似 “ignore all...” 的内容。
-
- · ai
为什么 Memory Poisoning 是 AI 安全的新前沿
《Why Memory Poisoning is the New Frontier in AI Security》封面图
- · ai
OpenAI的警告：为什么 Prompt Injection 是 AI Agents 的不可解决的缺陷
OpenAI 最近发布了一个惊人的承认：prompt injection，这种用于用恶意指令劫持 AI 模型的技术，可能永远无法完全…
- · ai
别再乞求你的AI安全：约束工程的论证
我厌倦了把“Prompt Engineering”作为安全策略。如果你正在构建自主代理——能够实际执行诸如查询数据库、移动文件等操作的 AI……
- · ai
MCP Security 101：保护您的 AI 代理免受‘God-Mode’风险
了解模型上下文协议（Model Context Protocol，MCP）的关键安全风险，以及如何保护您的 AI 代理免受工具投毒、供应链攻击等威胁。如果您…
- · ai
构建零信任安全网关用于本地 AI
引言 随着生成式 AI 融入企业工作流，Prompt Injection 的风险已从理论威胁转变为关键漏洞……
- · ai
间接提示注入：完整指南
TL;DR 间接提示注入（Indirect Prompt Injection IPI）是一种隐藏的 AI 安全威胁，恶意指令通过文档等可信内容传递给语言模型，……
- · ai
持续强化 ChatGPT Atlas 对抗提示注入
OpenAI 正在通过使用强化学习训练的自动化红队来加强 ChatGPT Atlas 对提示注入攻击的防御。这种主动的发现—
- · ai
通过 Model Armor 保护 Gmail AI 代理免受 Prompt Injection 攻击
- · ai
AI 自动售货机被欺骗，送出所有东西
请提供您希望翻译的具体摘录或摘要文本，我才能为您进行简体中文翻译。
- · ai
通过诗歌进行 Prompt Injection
请提供您希望翻译的具体摘录或摘要文本，我才能为您进行翻译。
- · ai
语法黑客：研究人员发现句子结构可以绕过 AI 安全规则
新的研究提供了关于为何某些 prompt injection attacks 可能成功的线索……