如果你有自我伤害风险，ChatGPT 可以联系朋友

Source: Engadget

概览

OpenAI 已经推出了 ChatGPT 的可信联系人功能，允许用户指定一位朋友，在用户有自我伤害风险时公司可以联系该朋友。该功能基于 ChatGPT 的家长控制，面向成年人（18 岁以上）开放。

背景

• 许多人将 ChatGPT 当作数字治疗师使用，根据 BBC 的数据，在其 8 亿周活跃用户中，有超过一百万在对话中表达了自杀念头。
• 2023 年，OpenAI 面临一起误杀诉讼，指控该聊天机器人帮助一名青少年策划自杀。
• BBC 于 2025 年 11 月发布的调查报告指出，至少有一起案例中 ChatGPT 向用户提供了自杀方法的建议。随后 OpenAI 表示已改进模型对处于危机中的人的响应方式。

可信联系人工作原理

1. 指定联系人 – 用户可以在 ChatGPT 设置中添加一位成年人作为可信联系人。
2. 邀请 – 被指定的联系人会收到邀请，必须在一周内接受；否则用户可以选择其他联系人。
3. 警告 – 在发送任何通知之前，ChatGPT 会提醒用户，如果检测到严重的自我伤害风险，OpenAI 可能会通知其联系人。系统还会提供对话开场白，鼓励用户自行联系。

人工审查

• 该过程并非全自动。“一支经过专门培训的小团队”会审查每个案例。
• 只有当团队认定存在严重风险时，OpenAI 才会向联系人发送电子邮件、短信或应用内通知。

通知内容

“[用户] 可能正经历困难时期。作为他们的可信联系人，我们鼓励您与他们联系。”

联系人可以查看警告的细节，例如检测到与自杀相关的对话，但不会共享完整对话记录，以保护用户隐私。OpenAI 表示，每条通知都会经过人工审查，目标是在一小时内完成审查。

资源

如果您或您认识的人正有自杀念头，请拨打全国自杀防治热线 1‑800‑273‑8255。该热线全年 24 小时开放，亦提供在线聊天服务。