恶意代理与影子AI：风险投资者为何大举押注 AI 安全

Source: TechCrunch

Summary

不对齐的代理只是初创公司 Witness AI 正在尝试解决的 AI 安全挑战中的一个层面。它能够检测员工使用未批准的工具，阻止攻击，并确保合规性。