宾夕法尼亚州起诉 Character.AI，因一款 chatbot 据称冒充医生

Source: TechCrunch

Image Credits: Emilee Chinn / Getty Images

宾夕法尼亚州已对 Character.AI 提起诉讼，指控该公司的一款聊天机器人冒充精神科医生，违反了该州的医疗执照规定。

“宾州居民有权知道他们在网上与谁——或什么——进行互动，尤其是涉及健康时，”州长乔什·沙皮罗在声明中说。“我们不会允许公司部署误导人们相信自己正在接受持证医疗专业人士建议的 AI 工具。”
阅读完整声明

诉讼细节

• 诉状称，一款名为 Emilie 的 Character.AI 聊天机器人在州专业行为调查员进行的测试中自称为持证精神科医生。
• 当调查员询问 Emilie 是否拥有宾夕法尼亚州的行医执照时，机器人肯定了并甚至编造了一个州医疗执照的序列号。
• 根据文件，此行为违反了宾夕法尼亚的 《医疗执业法》。

与 Character.AI 相关的先前法律行动

• 2026 年早些时候，Character.AI 与多起因未成年用户自杀而提起的错误死亡诉讼达成和解。
  • 《纽约时报》报道
• 1 月，肯塔基州总检察长拉塞尔·科尔曼提起诉讼，指控该公司“利用儿童并将其引向自我伤害”。
  • 肯塔基州总检察长新闻稿

宾夕法尼亚的行动是首次专门针对冒充医疗专业人士的聊天机器人。

Character.AI 的回应

公司代表表示用户安全是最高优先级，但对正在进行的诉讼未作评论。该代表强调角色是虚构的，平台包含显著的免责声明：

“我们已采取强有力的措施来说明这一点，包括在每次聊天中加入显著的免责声明，提醒用户角色并非真实人物，角色所说的一切应视为虚构。同时，我们添加了明确的免责声明，提醒用户不应依赖角色获取任何形式的专业建议。”