AI模型阻止了87%的单次攻击，但在攻击者持续攻击时仅阻止8%
发布: (2025年12月2日 GMT+8 01:00)
1 min read
原文: VentureBeat
Source: VentureBeat
概览
一次恶意提示会被拦截，而十次提示则会通过。这个差距决定了在基准测试中表现良好与在真实世界攻击中能够经受住考验之间的区别——而大多数企业并不知道这种差距的存在。
当攻击者发送单个恶意请求时，开放权重的 AI 模型能够保持防线……
相关文章
阅读更多 »Accenture 与 OpenAI 加速企业 AI 成功
埃森哲与OpenAI合作，帮助企业将agentic AI能力融入业务核心，释放新的增长水平……
OpenAI取得Thrive Holdings的所有权股份，以加速企业 AI 采用
OpenAI 收购 Thrive Holdings 的股份，以加速企业 AI 的采用，将前沿研究和工程直接嵌入会计等业务中。
为什么可观测AI是企业实现可靠LLM所缺失的SRE层
随着 AI 系统进入生产环境，可靠性和治理不能寄望于幻想。以下是可观测性如何转变大语言模型（LLMs）https://ve...
[论文] 注意力引导的 Patch-Wise 稀疏对抗攻击在 Vision-Language-Action 模型上
近年来，具身智能中的 Vision-Language-Action（VLA）模型发展迅速。然而，现有的 adversarial attack 方法需要高成本……