Meta的deepfake审核不够好，监督委员会称

Source: The Verge

Meta 监督委员会呼吁加强 AI 标注

Meta 的监督委员会希望公司开始认真对待 AI 标注，以保护用户免受网络错误信息的侵害。
图片来源：Cath Virginia / The Verge，Getty Images

委员会表示，Meta 用于识别深度伪造的方式 “不够稳健或全面”，无法应对伊朗战争等武装冲突期间错误信息的快速传播。

此担忧源于对一段伪造 AI 视频的调查，该视频声称展示了以色列建筑的损毁情况。该视频去年在 Meta 的平台——Facebook、Instagram 和 Threads——上被分享。虽然委员会的完整建议非常详尽，但一个关键点是，当前对 AI 生成内容的呈现和标注方式需要进行彻底改革。

关键发现

• 现有的深度伪造检测工具不足以应对冲突地区错误内容的传播速度。
• 用户往往难以区分 AI 生成的媒体与真实影像，导致错误信息风险上升。
• 委员会的调查凸显了 Meta 在其主要平台上标注政策的漏洞。

建议

• 实施 全面的 AI 标注系统，明确标记合成媒体。
• 部署更为稳健的检测技术，以跟上不断演进的深度伪造手段。
• 确保在 Facebook、Instagram 和 Threads 上实行一致的标注实践。

欲阅读完整报道，请参阅 The Verge 上的原文。