OpenAI 的成人模式据称不会生成色情音频、图像或视频

Source: Engadget

概览

OpenAI 即将推出的“成人模式”将允许用户与 ChatGPT 进行猥亵对话，但它 不会 生成露骨的图像、音频或视频。针对《华尔街日报》的报道，OpenAI 发言人将该功能描述为能够产生“低俗内容而非色情”。

成人模式开发时间线

• 2023 年 10 月： CEO Sam Altman 首次提出让 ChatGPT 支持情色内容，强调希望“把成年用户当作成年人对待”。
• 初始计划： 在 2026 年初发布成人模式。
• 后续延迟： 该功能的推出已多次推迟。最近一次延迟于三月初宣布，原因是让 OpenAI “专注于对更多用户更高优先级的工作”。

福利委员会关注

• OpenAI 在其八人 福利与 AI 委员会 表示保留意见的情况下仍继续开发成人模式。
• 委员会一致警告，AI 生成的情色内容可能导致用户对 ChatGPT 产生不健康的情感依赖。
• 他们还指出，未成年用户很可能会想办法访问该功能，存在风险。
• 一位委员提到，已有个案显示有人因对 ChatGPT 产生依恋而自杀，警告公司可能无意中制造出一个“性感自杀教练”。

年龄验证挑战

• 根据《华尔街日报》，公司的年龄验证系统约有 12 % 的概率将未成年用户误判为成年人。
• 鉴于每周约有 1 亿青少年 使用 ChatGPT，这一错误率可能导致 数百万未成年人 进入情色聊天。
• OpenAI 向该报表示，其预测算法符合行业标准，并指出没有系统能够做到完全万无一失。