机器人拍摄，AI 代理完成支付……需要重新制定隐私与安全标准

Source: Byline Network

会议与网络研讨会详情

[会议] 2026 电子商务业务洞察

• 地点: 首尔江南区泰赫兰路7街22号 ST Center 大会议室2
• 时间: 3月12日 12:30 ~ 17:00

[网络研讨会] 为 AI 时代做好准备的 Kubernetes

• 时间: 3月24日 14:00 ~ 16:00

物理 AI 与代理 AI 所需的新个人信息·安全标准

人形机器人、自动驾驶汽车、扫地机器人等在现实空间中移动并收集·利用数据的物理 AI 技术正快速发展。围绕重新制定个人信息保护和安全标准的讨论也在扩大。

物理 AI 拍摄的影像 – 难以获取同意

• 在公开场所运营视频信息处理设备，需要符合《个人信息保护法》第25条之2的相关条件。
• 身体摄像头等设备的拍摄事实较容易被察觉并表达拒绝意愿，但自动驾驶汽车、无人机、送餐/配送机器人等高移动性设备在现场难以表达拒绝。
• 即使事后要求删除，也可能需要额外的个人信息来证明本人身份。

核心要点

1. “是否取得同意”不如“权利侵害降低了多少”重要
2. 仅保留必要的影像，其余删除或进行匿名·化名处理
3. 拍摄目的的正当性、手段的适合性、查阅·删除·更正请求的保障程序、内部管理·安全措施是法律正当性判断的标准

除影像外的个人信息问题扩大

• 通过机器人和语音交互会收集语音信息、生活·工作模式，健康护理机器人甚至会收集健康信息。
• 在非公开场所如办公室·工厂等，适用《个人信息保护法》较为困难，需要获取员工同意并审查正当利益。
• 核心是 将信息主体权利侵害风险降到最低，并制定安全存储·目的外使用限制·权利行使程序。

物理 AI 安全事故 – 直接导致物理损害

• AI 后门、规避攻击、传感器干扰等不仅会导致信息泄露，还可能造成人员·财产损失。

应对措施

• 考虑对抗性攻击的预训练
• 过度权限限制及安全模式的应用
• 实时日志·异常行为监控
• 紧急响应体系及通信区段保护

代理 AI 与目的限制原则

• 代理 AI 根据用户指令自动关联·执行行政门户、日历、预订网站等。
• 传统的 “目的明确·最小收集” 原则难以适用，需要构建 用户能够控制实时数据访问·工具使用·系统连接 的结构。

敏感信息推断与生成式 AI 风险

• 通过结合预约·购买·移动记录，可推断疾病·宗教·经济状况等敏感属性。
• 生成式 AI 的幻觉（hallucination）可能产生不准确的个人信息并传递。
• 保持信息准确性、保障更正·删除请求权至关重要。

目的外使用及向第三方提供·跨境转移

• 在自动化预约·支付过程中需要向外部业务方提供个人信息，这除了 “合同履行·正当利益” 之外，还需进行额外的法律审查。
• 与海外业务方连接时，目前 同意为原则，但需要针对服务流程进行制度改进的讨论。

代理 AI 安全威胁与最小权限原则

• 高度自主性和链式执行结构会增加过度授权·数据·指令污染的风险。

推荐对策

• 数据检查·输入输出过滤
• 防止内存污染
• 最小权限分配并对敏感指令设置人工批准流程
• 通过白名单限制仅使用授权工具
• 建立漏洞检查·监控体系

结论

在物理 AI·代理 AI 时代，使用最小必要信息、设定风险判断·行为中止点、确保用户控制权、保障通信·执行区段安全 成为新的标准。这些原则也与《AI 基本法》所规定的高风险 AI 监管相呼应。