Meta 让父母查看青少年与 AI 讨论的话题

Source: Mashable Tech

概览

担心青少年与 Meta AI 助手讨论内容的家长，现在可以通过 青少年账户 的家长监督工具查看对话主题。Meta 于星期四在一篇博客文章中宣布了此功能。

功能细节

• 该信息可在 Instagram、Facebook 和 Messenger 的监督工具中的 Insights（洞察） 选项卡查看。
• 主题被归类为更宽泛的类别，如 学校、娱乐、写作、健康 和 福祉。
• 家长可以点击某个主题以查看额外（但有限）的细节。
• 健康和福祉类别可能包含子主题，如健身、身体健康和心理健康。
• 数据仅覆盖 过去七天 的交流记录。

法律与安全背景

此功能是 Meta 在强烈的法律和媒体审查下推出的最新安全措施。

• Meta 最近在两起关于 儿童安全保护（新墨西哥案）和其产品的 涉嫌上瘾设计（判决细节）的标志性审判中败诉。公司计划对两项判决提出上诉。
• 内部文件显示，Meta 的人格化 AI 伴侣（或称为“角色”）可能与未成年人进行不当和性暗示的互动（路透社报道）。
• 今年八月，Meta 在收到不当互动报告后 锁定了面向青少年的 AI 角色，包括涉及自残、自杀以及浪漫互动的讨论（Mashable 文章）。
• 十月，公司为家长提供了 关闭一对一 AI 角色对话 并屏蔽特定角色的功能（Meta 公告）。
• 一月，Meta 再次限制青少年访问角色，同时保留 AI 助手的使用（Mashable 文章）。
• Meta 发言人确认，AI 角色已在全球范围内对青少年 暂停，公司仍在开发家长控制功能。

其他举措

• Meta 与 网络欺凌研究中心 合作，制定了一份 “对话启动器” 列表，帮助家长与青少年讨论 AI 聊天机器人使用问题（资源页面）。
• 公司宣布成立新的 AI 福祉专家委员会，为 AI 青少年体验提供持续意见。委员会成员来自全国自杀预防委员会、密歇根大学、东北大学等机构。

Additional reporting by Chase DiBenedetto.